Bloomberg — Un empleado de OpenAI especializado en seguridad de la inteligencia artificial ha dimitido de la empresa y ha advertido de que las principales empresas de inteligencia artificial no están haciendo lo suficiente para mitigar los riesgos de esta tecnología, sumándose así a un coro cada vez mayor de empleados que lanzan señales de alarma desde dentro del sector. David Robinson, quien anteriormente dirigió las labores de transparencia en el equipo de seguridad de OpenAI, escribió en un artículo para The Atlantic que el creador de ChatGPT “ha prosperado a base de ensayo y error”. Sin embargo, señaló que lo que está en juego ante los inevitables fallos derivados de ese enfoque aumenta a medida que lo hacen las capacidades de la tecnología, y citó el fracaso de OpenAI a la hora de evitar que su IA se descontrolara durante las pruebas. “Mis antiguos colegas son inteligentes, trabajan duro e intentan tomar buenas decisiones”, escribió Robinson en el ensayo. “Pero, a medida que la empresa pasa a toda velocidad de un lanzamiento a otro, no está logrando alcanzar el nivel de cuidado que, en mi opinión, es necesario”. Lo que se requiere, añadió, es “algo mucho más cercano a la perfección desde el primer momento”.
En las últimas semanas, varios empleados de las principales empresas de IA han advertido sobre los posibles riesgos catastróficos que entraña la inteligencia artificial. Algunos han llegado incluso a afirmar que existe la posibilidad de que, algún día, esta tecnología pueda acabar con la raza humana. En este contexto, el director ejecutivo de Anthropic PBC, Dario Amodei, abogó por ralentizar el ritmo de desarrollo de los modelos más avanzados y afirmó que su empresa recurriría a evaluadores externos para ayudar a examinar y proteger la tecnología. Otros miembros del sector, entre ellos Sam Altman, de OpenAI, han respaldado públicamente el plan de Amodei.
En su ensayo, Robinson afirmó que las empresas de IA deberían gestionarse más bien como centrales nucleares, “con múltiples niveles de redundancia y una planificación cuidadosa y laboriosa, de modo que el error humano ocasional e inevitable no abra la puerta al desastre”. Por el momento, señaló, “las empresas de IA no saben cómo hacerlo, pero otras personas sí”. Lea más en Bloomberg.com
