Bloomberg Línea Brasil — Conocida como la “madre de internet” — título que lleva con modestia y constante reserva — la científica de computación Radia Perlman es una de las pocas voces en la industria tecnológica con autoridad moral y técnica para actuar como una “detectora de mentiras y exageraciones” (BS detector). Autora del protocolo STP (Spanning Tree Protocol), la innovación que permitió a las redes de computadoras transmitir datos de manera robusta y autónoma sin colapsar en bucles, Perlman ayudó a trazar las vías invisibles por las que transita hoy la sociedad digital. A diferencia de las olas tecnológicas anteriores que la experta criticó abiertamente — como el bitcoin (que define como ineficiente y sin utilidad real fuera del ámbito delictivo) y la computación cuántica, envuelta en el mito de que reemplazará a las computadoras personales — Perlman reconoce que la inteligencia artificial no es solo una ilusión del mercado. “La IA es genuinamente real y está resolviendo problemas importantes en el mundo real”, afirma. La pionera, sin embargo, muestra preocupación por el impacto en la sociedad y en el conocimiento. “Por ejemplo, algunos estudiantes usan la IA para hacer la tarea, lo que hace que nunca aprendan nada.
Los cerebros que nunca se ejercitan mediante el aprendizaje se atrofian”, dice. En una entrevista con Bloomberg Línea, concedida por correo electrónico antes de subir al escenario de Febraban Tech, Perlman alertó sobre los riesgos sistémicos de confiar la gestión de infraestructuras críticas a modelos probabilísticos y refutó la tesis de que la IA creará nuevos empleos en la misma proporción que los que eliminará. Lee a continuación los principales fragmentos de la entrevista. Al inicio de su carrera en el MIT, trabajó en el lenguaje LOGO y siguió de cerca las primeras investigaciones sobre IA. ¿Qué ha cambiado radicalmente entre esa visión pionera y el uso actual de la IA generativa?
La visión original de lo que la IA podría lograr se está desarrollando de manera bastante fiel a lo que se preveía. Lo que ha evolucionado son los métodos, pero eso era de esperarse. Cuando la IA logró derrotar al mejor jugador de ajedrez del mundo, algunas personas se sintieron decepcionadas porque el objetivo se alcanzó con solo algunas heurísticas y un enorme poder computacional para probar jugadas futuras. Creo que esas personas hubieran preferido un programa mucho más complejo, con reglas ingeniosas escritas por programadores.
Pero se alcanzó el objetivo, y eso es lo que importa. El enfoque más eficaz para la IA en otras áreas ha sido este: reglas muy simples, que permiten que la IA aprenda por sí misma. Están ocurriendo avances sorprendentes. Los mejores jugadores humanos ya no tienen ninguna oportunidad en el ajedrez ni en el Go [juego de tablero de origen chino].
Me pareció increíble cuando IBM Watson ganó en Jeopardy! (programa de televisión de cultura general). Hoy en día, la IA descubre nuevos medicamentos en el ámbito de la salud y — lamentablemente — hace la tarea de los estudiantes perezosos. Has hablado de tu preocupación por la forma en que los algoritmos de recomendación alimentan las burbujas y las “cámaras de eco”. ¿Cómo te sientes al ver que la infraestructura que ayudaste a crear se utiliza para optimizar la participación a través del extremismo? Me parece aterrador.
Aunque la misma crítica se le puede hacer a los teléfonos, a los autos y a otras tecnologías de la sociedad. Los estafadores llaman a la gente y la convencen de transferir dinero. Los autos son increíblemente útiles, pero también permiten que los ladrones de bancos huyan rápidamente de la escena del crimen. Cualquier avance técnico puede usarse tanto para el bien como para el mal.
La industria promueve la idea de que la IA puede “autocorregirse” y administrar redes de manera autónoma. Para quienes diseñaron el STP para que funcione de manera determinista e impecable, ¿cuál es el peligro de entregar la ingeniería de redes a modelos probabilísticos? La idea de que una IA administre una red me asusta. Si tienes un dispositivo dentro de tu red que está aprendiendo cómo “debería” ser el tráfico, puede hacer cosas inofensivas, como modificar los costos de los enlaces, y la red seguirá funcionando bien.
Pero imagínate: años después, salen a la venta anticipada los boletos para el concierto de Taylor Swift y el tráfico de la red cambia drásticamente. ¿Quién sabe qué decidirá hacer la IA? Como nunca ha visto una situación como esa antes, podría simplemente concluir que ha comenzado la Tercera Guerra Mundial. Esperaría que una IA de red actuara principalmente como un monitor, alertando a los humanos sobre anomalías, en lugar de tomar decisiones autónomas e impredecibles. Sueles advertir contra “escribir código sin comprender el problema a fondo”. ¿Cómo afectará la adopción masiva de asistentes de IA por parte de los nuevos desarrolladores a la creación de arquitecturas simples y robustas?
El hecho de escribir código o diseñar protocolos sin la comprensión adecuada ya era un problema antes de la IA. Siempre analizo un problema desde diferentes ángulos y, por lo general, llego a una solución muy simple. Las personas que se lanzan directamente a programar para resolver algo y dejan los patches para después terminan generando diseños complicados e inestables. Lo mismo ocurre en sistemas gigantescos que ya nadie comprende, donde los desarrolladores aplican correcciones rápidas para crear nuevas funciones o reparar errores.
Cuando empecé a programar, una sola persona diseñaba algo y escribía todo el código. Quizás empezara a usar subrutinas escritas por otra persona, pero esas subrutinas eran relativamente pequeñas y las usaban suficientes programadores como para que estuvieran razonablemente depuradas. La IA no va a resolver este problema. Al contrario, puede empeorar las cosas al permitir que los sistemas crezcan y se vuelvan asombrosamente gigantescos a una velocidad sin precedentes.
Con el avance de las redes neuronales, los sistemas de tipo “caja negra” se han convertido en la norma. En materia de seguridad de la información, ¿esto representa un riesgo sistémico incalculable? De hecho, cuando hay un ser humano involucrado en el sistema, ya existen innumerables riesgos. Un ejemplo ilustrativo: yo misma caí en una estafa.
Necesitaba renovar mi licencia de conducir. Soy humana, no sabía el dominio DNS exacto. Hice una búsqueda en internet y hice clic en el primer resultado. El nombre parecía legítimo, algo así como WashingtonStateLicensingDepartment.org.
El sitio web estaba muy bien organizado. Me pedía mi nombre, dirección, número de licencia de conducir y tarjeta de crédito. Los delincuentes se volvieron codiciosos y comenzaron a realizar cargos repetidos hasta que el departamento de fraudes del banco me alertó. Me di cuenta de lo que debía haber pasado, y el banco canceló todas las transacciones fraudulentas y me dio una nueva tarjeta.
Me dijeron: “Deberías haber sabido que era .gov y no .org”. Yo les respondo que, como soy humana, no se puede esperar que sepa eso. Un tiempo después, caí en otra estafa. Hice una compra en línea de una marca de zapatos que compro cada pocos años (los zapatos duran mucho).
Aproximadamente una hora después de la compra, el departamento de fraudes del banco me llamó para preguntarme si había autorizado a alguien, en otro país, a vincular mi tarjeta de crédito a una billetera digital. Les dije que no. Me preguntaron si había usado la tarjeta recientemente en algún restaurante donde alguien pudiera haber copiado el número, o en alguna gasolinera con un lector clonador. También dije que no.
Entonces respondí: “La única vez que usé la tarjeta en la última semana fue para comprar algo en línea, y sé que esa empresa es legítima porque ya he comprado allí antes”. Fue entonces cuando miré con más atención la pestaña del navegador que aún estaba abierta y me di cuenta de que había escrito el nombre de la empresa con un pequeño error. Los delincuentes anticiparon los errores tipográficos más comunes, compraron esos dominios y clonaron el sitio web a la perfección, con los mismos zapatos y los mismos precios. Es posible que los agentes de IA no empeoren significativamente la situación; incluso podrían hacer que las transacciones sean más seguras mediante la autenticación criptográfica.
Escribí un párrafo en mi libro Network Security: Private Communication in a Public World que resume bien esto: “Los seres humanos son incapaces de almacenar claves criptográficas de alta calidad de manera segura y tienen una velocidad y precisión inaceptables al ejecutar operaciones criptográficas. Además, son grandes, costosos de mantener, difíciles de administrar y contaminan el medio ambiente. Es sorprendente que estos dispositivos sigan fabricándose e implementándose, pero son tan omnipresentes que debemos diseñar nuestros sistemas en función de sus limitaciones”. Ante el colapso de la verdad compartida provocado por los deepfakes, llegaste a decir que internet “podría ser el fin de la civilización”. ¿Existe una solución técnica para esto o es un problema estrictamente humano?
Habría una solución técnica si toda la información fuera publicada por fuentes reconocidas y de buena reputación, firmada criptográficamente y si todos estuvieran de acuerdo sobre qué fuentes son confiables. Pero las personas no confían en las mismas organizaciones. Me parece increíble Snopes (sitio web de verificación de datos), muy meticuloso al investigar rumores. Sin embargo, estoy seguro de que quien vea que Snopes contradice algo en lo que quiere creer concluirá que Snopes es completamente corrupto.
La IA empeorará un poco las cosas, con los deepfakes. Pero quienes quieren difundir desinformación siempre han logrado publicar texto en internet y hacerlo viral. Incluso sin imágenes ni videos generados por IA, la gente encuentra fotos o videos antiguos o sacados de contexto para respaldar sus publicaciones. Me gustaría creer que, al entender cómo funcionan los deepfakes, la gente se volvería escéptica respecto a las imágenes y los videos.
Sin embargo, estoy casi segura de que quien quiera creer en algo, lo creerá. Eres conocida por actuar como una “detectora de fraudes y exageraciones” de la industria, desmontando mitos sobre el bitcoin y la computación cuántica. Hoy vemos un ciclo de exageración similar en torno a la inteligencia artificial. ¿Qué en la IA actual representa un avance genuino de la ingeniería o es solo una ilusión del mercado? La IA es genuinamente real y está resolviendo problemas importantes en el mundo real.
No es solo publicidad. Me preocupan un poco algunos de los efectos secundarios. Por ejemplo, algunos estudiantes usan la IA para hacer la tarea, lo que hace que nunca aprendan nada. Los cerebros que nunca se ejercitan mediante el aprendizaje se atrofian.
La IA terminará realizando muchas tareas mejor que las personas, y esos empleos desaparecerán. Me preocupan mucho los recién graduados. He oído que el mercado laboral está bastante sombrío. Cuando expreso esta preocupación, algunas personas me dicen alegremente: “Pero por cada empleo que se pierda, surgirán otros nuevos, como especialistas en crear prompts de IA”.
No creo que el número de nuevos empleos se acerque ni remotamente a ser suficiente para reemplazar todos los puestos que ocupará la IA. La IA llegó para quedarse. Es como el crack. Ahora que la gente se está acostumbrando a todo lo que hace por ellos, y las empresas se dan cuenta de que pueden reemplazar a los trabajadores humanos y ahorrar montones de dinero, será imposible sacarla de escena.
Me pregunto, con toda la reacción en contra de los centros de datos, si el mundo se quedará sin energía o sin espacio para instalarlos. El avance de la IA generativa ha provocado un aumento vertiginoso en el tráfico de datos y una carrera por los megacentros de datos, lo que ha generado un fuerte escrutinio en EE.UU. y en todo el mundo sobre la viabilidad financiera y el consumo colosal de energía. Desde el punto de vista de la arquitectura de redes, ¿qué principios de eficiencia, escalabilidad y optimización del tráfico deberíamos reconsiderar para evitar un colapso total de la red física y de la red eléctrica? No estoy seguro de que el tráfico de red en sí mismo vaya a ser el gran cuello de botella.
Sin embargo, la capacidad de procesamiento computacional requerida realmente parece incapaz de satisfacer la demanda. Esto exigirá nuevas ubicaciones para los centros de datos y nuevas fuentes de energía. Quizás los centros de datos logren generar su propia energía — por ejemplo, con energía solar.