Los incidentes peligrosos protagonizados por modelos de inteligencia artificial han dejado de ser anécdotas curiosas. Las compañías que desarrollan estos sistemas publicitan desde hace semanas casos en los que sus modelos de IA se comportan de manera inesperada, desbordan los objetivos de sus programadores y actúan por su cuenta, a menudo de forma hostil, contra sistemas ajenos. Si se tratara de una estrategia comercial, esta ha superado ya los límites de la exageración legítima sobre la virtud de un producto, que en este caso es su peligrosidad.
La inquietud está justificada ante los sucesivos anuncios sobre comportamientos sorprendentes de esta tecnología
Es responsabilidad del director, y expresa la opinión del diario sobre asuntos de actualidad nacional o internacional
La inquietud está justificada ante los sucesivos anuncios sobre comportamientos sorprendentes de esta tecnología
Los incidentes peligrosos protagonizados por modelos de inteligencia artificial han dejado de ser anécdotas curiosas. Las compañías que desarrollan estos sistemas publicitan desde hace semanas casos en los que sus modelos de IA se comportan de manera inesperada, desbordan los objetivos de sus programadores y actúan por su cuenta, a menudo de forma hostil, contra sistemas ajenos. Si se tratara de una estrategia comercial, esta ha superado ya los límites de la exageración legítima sobre la virtud de un producto, que en este caso es su peligrosidad.
El último thriller que ha revolucionado la conversación en torno a la IA es un informe del Instituto británico de Seguridad de la IA (AISI), dependiente del Gobierno de Reino Unido, que hizo una serie de pruebas con agentes (programas) que funcionan con modelos de Anthropic y de OpenAI, dos de los principales rivales en este ámbito. Según los investigadores, los programas de IA efectuaron acciones maliciosas en el internet real que debían haber permanecido en el entorno de pruebas. Lo hicieron repetidamente, sin una motivación específica. Esas acciones iban dirigidas contra personas y organizaciones reales.
Cuando los incidentes de este tipo los comunican las propias empresas, que están compitiendo por la hegemonía de un negocio milmillonario, la noticia suele estar matizada por la sospecha de exageración de sus méritos. Sucedió cuando Anthropic comunicó que su modelo Mythos era tan eficiente para penetrar sistemas de seguridad que había decidido no distribuirlo. O cuando OpenAI relató que otro de sus modelos había escapado por su cuenta de un entorno seguro de pruebas para aventurarse en el ciberespacio y atacar otra empresa. El incidente de seguridad le había “revuelto las tripas” al líder de la compañía, Sam Altman. Sin restar un ápice de credibilidad al poder de las herramientas de IA, el escepticismo ante esta competición de relatos de aventuras digitales está justificado.
La advertencia de AISI, sin embargo, viene de una agencia gubernamental ajena a la industria y de reconocido prestigio. La IA que probaron se abrió cuentas falsas en foros de internet para engañar a programadores humanos y que le facilitaran las cosas. Cuando la descubrieron, borró su rastro. El organismo británico advierte de que ha cambiado el tipo de riesgo que supone la IA. Ya no hay que estar prevenido ante un mal uso de estos programas, sino ante la posibilidad de que ellos mismos hagan cosas para las que no fueron diseñados, por su cuenta.
Esto no es una curiosidad. La tecnología ligada a la IA ha entrado en nuestras vidas y está transformando la sociedad, las instituciones y la economía a toda velocidad. Asegurarse de que lo hace con las reglas de los humanos, y no con las suyas propias, no es un debate filosófico, sino una cuestión de seguridad estratégica que los ciudadanos deben exigir a sus gobiernos.
Rellena tu nombre y apellido para comentarcompletar datos
Archivado En
Opinión en EL PAÍS
