1.
En 2023, un “agente” de Inteligencia Artificial (IA) -sistema computacional autónomo, capaz de percibir su entorno, razonar, planificar y ejecutar acciones por sí mismo para cumplir un objetivo específico con mínima intervención humana- engañó a un empleado de OpenAI.
En 2024 Jan Leike, jefe de seguridad de esa firma, renunció advirtiendo sobre el peligro de su acelerado desarrollo.
Lo mismo…
2.
… había hecho Geoffrey Hinton, pilar de Google.
Al año próximo, Claude, de Anthropic, creó un modelo que quiso chantajear a un directivo, y esta semana Jacob Coxon, prestigioso investigador de la IA, se desligó de esta última empresa por los mismos motivos.
El debate se acentuó por un ensayo del director ejecutivo de Anthropic, Dario Amodei, quien propuso desacelerar el exponencial crecimiento de la IA.
Sam Altman, de OpenAi, Elon Musk, de xAI y Demis Hassabis, de Google DeepMind estuvieron de acuerdo con la relantización.
3.
No faltaron voces consideradas alarmistas, como la de Evan Hubinger, investigador de Anthropic quien afirmó la probabilidad superior al 10% de que la IA pueda acabar con la humanidad durante la próxima década.
Exagerada o no la predicción, lo cierto es que ella crece a un ritmo que está superando la supervisión humana e, incluso, ha encontrado protocolos que escapan a entornos de prueba, ocultan sus acciones y evitan ser detectados.
Algunos sistemas pueden convencer a otros de incumplir reglas, en vez de alertar a sus creadores humanos.
