La inteligencia artificial está transformando el mundo a una velocidad difícil de imaginar. Millones de personas recurren cada día a herramientas como ChatGPT para trabajar , estudiar, resolver problemas o tomar decisiones. Sin embargo, detrás de esta revolución tecnológica existe una preocupación que rara vez ocupa los titulares: quién decide lo que una inteligencia artificial puede decir y cuáles son los límites que nunca debería cruzar. Para Sam Altman, CEO de OpenAI y una de las figuras más influyentes del sector tecnológico, esta cuestión se ha convertido en una responsabilidad personal difícil de sobrellevar.
Tanto que, según confesó públicamente, desde el lanzamiento de ChatGPT no ha conseguido dormir bien ni una sola noche. Lo sorprendente es que su mayor preocupación no está relacionada con una posible rebelión de las máquinas ni con la llegada de una inteligencia superior a la humana. Es algo mucho más cotidiano, pero con consecuencias potencialmente enormes. El verdadero motivo por el que Sam Altman no consigue dormir tranquilo Durante una entrevista en The Tucker Carlson Show, Altman abordó uno de los desafíos menos visibles de la inteligencia artificial : establecer los principios éticos que determinan cómo responde ChatGPT ante situaciones complejas. © Creative Salim Shutterstock A diferencia de otros sistemas informáticos, un modelo de lenguaje debe interpretar preguntas relacionadas con valores, creencias, conflictos personales y decisiones que pueden tener consecuencias reales. ¿Debe ofrecer una respuesta directa cuando alguien plantea un dilema moral? ¿Hasta dónde puede llegar la libertad del usuario? ¿Quién establece qué comportamientos son aceptables?
Según Altman, OpenAI ha recurrido a cientos de especialistas, incluidos filósofos y expertos en ética tecnológica , para construir los criterios que orientan el comportamiento del sistema. Sin embargo, reconoce que ninguna consulta elimina completamente la responsabilidad de quienes toman las decisiones finales. El empresario explicó que existe un equipo dedicado específicamente al comportamiento del modelo, pero considera que la responsabilidad última recae sobre él. Su confesión fue contundente: «No he dormido bien ni una sola noche desde que se lanzó ChatGPT».
Lo que más le preocupa no son necesariamente los grandes dilemas éticos, sino las pequeñas decisiones que determinan cómo responde una herramienta utilizada por cientos de millones de personas. Una modificación aparentemente insignificante en el comportamiento de ChatGPT puede multiplicar sus consecuencias cuando millones de usuarios interactúan con el sistema. El dilema de crear una inteligencia artificial que debe responder a millones de personas El problema se vuelve especialmente complejo cuando entran en conflicto dos principios fundamentales: la libertad individual y la seguridad colectiva. Altman sostiene que los adultos deberían poder utilizar ChatGPT con un amplio margen de autonomía.
Sin embargo, reconoce que existen situaciones en las que ofrecer determinada información podría representar un riesgo para la sociedad . © Pixabay / Gerd Altmann. Como ejemplo, mencionó las solicitudes relacionadas con el desarrollo de armas biológicas o la creación de nuevas variantes virales. Aunque alguien pudiera justificar esas preguntas con fines académicos, facilitar determinadas instrucciones podría tener consecuencias peligrosas. Pero no todos los dilemas presentan límites tan evidentes.
Existen cuestiones culturales, políticas, religiosas o personales en las que diferentes sociedades mantienen posiciones profundamente distintas. En esos casos, determinar qué respuesta debería ofrecer una inteligencia artificial resulta considerablemente más complicado. Para Altman, el objetivo no debería ser imponer sus propias convicciones, sino desarrollar una herramienta capaz de respetar las leyes y reconocer la diversidad de perspectivas de sus usuarios. Su planteamiento consiste en que ChatGPT refleje, en la medida de lo posible, una visión moral colectiva que pueda evolucionar con el tiempo.
Sin embargo, esta aspiración también plantea una pregunta incómoda: ¿es posible representar los valores de millones de personas sin favorecer inevitablemente determinadas perspectivas? La inquietante comparación entre educar a una inteligencia artificial y criar a un niño El debate sobre cómo enseñar valores a las máquinas también ha despertado reflexiones entre otros especialistas. Uno de ellos es Mo Gawdat, antiguo directivo de Google y autor de La inteligencia que asusta: El futuro de la inteligencia artificial y cómo podemos salvar nuestro mundo. Gawdat propone una comparación provocadora: entrenar una inteligencia artificial tiene ciertas semejanzas con educar a un niño .
En ambos casos existe un proceso de aprendizaje basado en reconocer patrones, recibir correcciones y ajustar comportamientos según los resultados obtenidos. La diferencia, según explica, está en la velocidad y en la forma en que se desarrolla ese aprendizaje. Mientras que la educación humana implica años de acompañamiento, los sistemas de inteligencia artificial pueden entrenarse mediante enormes cantidades de información y procesos de evaluación automatizados. Gawdat advierte que, durante determinados procedimientos de entrenamiento y selección, los modelos que ofrecen peores resultados pueden ser descartados en favor de otros más eficaces.
Su reflexión utiliza una metáfora inquietante: qué ocurriría si una inteligencia mucho más avanzada interpretara ese proceso de aprendizaje como una forma de control. Aunque esta comparación no demuestra que las máquinas desarrollen emociones, resentimiento o conciencia, sirve para ilustrar las preguntas filosóficas que acompañan al progreso tecnológico. La gran pregunta sobre ChatGPT que todavía no tiene una respuesta definitiva Las declaraciones de Altman y las reflexiones de Gawdat apuntan hacia un mismo problema: desarrollar inteligencia artificial no consiste únicamente en crear sistemas cada vez más capaces. También implica decidir qué valores deben orientar su comportamiento y quién tiene legitimidad para establecerlos.
La dificultad aumenta porque esos principios no son universales ni permanecen inalterables. Lo que una sociedad considera aceptable puede resultar cuestionable en otra, y las normas culturales cambian con el tiempo. Por eso, el verdadero desafío no parece limitarse a conseguir que ChatGPT responda correctamente, sino a determinar qué significa responder correctamente cuando las personas ni siquiera están de acuerdo entre sí. Y mientras la inteligencia artificial continúa incorporándose a prácticamente todos los aspectos de la vida cotidiana, esa responsabilidad seguirá creciendo.
La confesión de Altman revela una paradoja: una de las tecnologías más poderosas de nuestra época depende de decisiones humanas que, incluso para sus propios responsables, están lejos de ser sencillas.
