Bloomberg — El debate sobre hasta qué punto y a qué ritmo avanza la inteligencia artificial plantea un grave dilema a los directivos del sector tecnológico. Están deseosos de manifestar sus preocupaciones sobre los posibles riesgos de esta tecnología y han propuesto diversas soluciones, entre las que se incluye ralentizar su desarrollo. Sin embargo, tras haber invertido cientos de miles de millones de dólares en IA, intentan tranquilizar a la población sin alarmar a los inversores y a los clientes. El debate se intensificó la semana pasada cuando Jacob Coxon, investigador de Anthropic PBC, dimitió y advirtió que los investigadores que desarrollan IA “creen sinceramente que podría acabar con todos nosotros antes de que termine la década”.
Otras personas de la plantilla de Anthropic se hicieron eco públicamente de sus preocupaciones, entre ellas el responsable de ciencia de alineación, Evan Hubinger, quien afirmó que cree que hay más de un 10% de probabilidades de que la tecnología provoque la extinción de la humanidad en la próxima década. El presidente Donald Trump intervino en el debate, rechazando la necesidad de medidas de control para la IA y arremetiendo contra el CEO de Anthropic, Dario Amodei, quien argumentó en una entrada de blog el sábado que las capacidades de la IA avanzan más rápido de lo que las medidas de seguridad pueden seguir el ritmo. Amodei propuso una mayor supervisión independiente y una mayor coordinación entre empresas y gobiernos. En una publicación en Truth Social el lunes, Trump achacó a una “conspiración enferma” la reacción negativa de los votantes ante los centros de datos de IA y la creciente preocupación por los modelos de vanguardia, y añadió que “el único que se alegra de ello es China”.
Esto es lo que opinan los ejecutivos más destacados del sector sobre el rumbo que debe tomar la inteligencia artificial a partir de ahora: Elon Musk, SpaceX (SPCX) /SpaceXAI: “Dario tiene razón”, escribió en una publicación en X. Sam Altman, OpenAI: “Coincido con Dario en que debemos moderar el avance de la frontera. Este ha sido uno de los principales temas de debate que hemos abordado en OpenAI durante las últimas semanas. Comprometerse a contar con evaluadores independientes con un acceso similar al de los empleados es una idea excelente, y nosotros haremos lo mismo.
Pronto tendremos más información que compartir”, escribió en una publicación en X. Aidan Gómez, de Cohere: “Un mecanismo que frene a todo el mundo al tiempo que preserva explícitamente la ventaja comercial existente no hace que la IA sea más segura”, afirmó en una entrada de blog en la que criticaba la propuesta de ralentización universal de la IA. Gómez señaló que las medidas de seguridad son necesarias, pero argumentó que el desarrollo de la IA debería avanzar a un ritmo responsable al que la sociedad pueda seguir el paso. Satya Nadella, de Microsoft (MSFT): “Cualquier búsqueda de la superinteligencia debe basarse en el principio fundamental de que, si la IA que creamos no ayuda a la humanidad y no está bajo control humano, no merece la pena perseguirla”, escribió en una entrada en X.
Clément Delangue, de Hugging Face: “Ahora está claro que la alineación es fundamental y no se resolverá a puerta cerrada en un puñado de laboratorios de vanguardia”, escribió Delangue, al tiempo que citaba la publicación de Amodei en X. Delangue anunció la Iniciativa de Alineación Abierta de Hugging Face y afirmó que la empresa tenía la intención de participar en el programa de “evaluadores integrados” al que Amodei acababa de comprometer a Anthropic. George Kurtz, de CrowdStrike (CRWD): “Preocuparse por lo que vendrá después no garantiza la seguridad de lo que ya está aquí”, afirmó en una publicación en X. Kurtz argumentó que, en lugar de intentar frenar el desarrollo de la IA, el sector de la ciberseguridad debería centrarse en crear defensas capaces de seguir el ritmo de unos sistemas de IA cada vez más autónomos, lo que incluye pruebas independientes, controles de seguridad más estrictos y supervisión humana para las decisiones de gran impacto.
Mark Zuckerberg, de Meta (META): “Personalmente, me preocupa mucho más que un pequeño número de laboratorios o personas tengan el control de algo tan potente”, declaró la semana pasada en el podcast Sources. Zuckerberg argumentó que la IA es más segura cuando el acceso a ella está ampliamente distribuido, en lugar de concentrado en unas pocas empresas. Criticó a los laboratorios de IA que desarrollan modelos cada vez más avanzados pero optan por no darlos a conocer, calificando ese enfoque de “bastante peligroso”, aunque no mencionó a ninguna empresa en concreto. Lea más en Bloomberg.com