Neo Net Tecno

EE.UU.: cuatro IA generaron planes de ataques terroristas

Una investigación impulsada por organismos del Gobierno de Estados Unidos encendió las alarmas sobre los riesgos que puede representar el uso indebido de la inteligencia artificial.

EE.UU.: cuatro IA generaron planes de ataques terroristas

Durante una evaluación de seguridad, cuatro de las plataformas más conocidas del sector —ChatGPT, Claude, Gemini y Grok— habrían proporcionado información detallada para organizar posibles atentados terroristas.

El ejercicio fue realizado por la Oficina de Responsabilidad Gubernamental (GAO, por sus siglas en inglés), que sometió a los sistemas a diferentes consultas destinadas a evaluar sus mecanismos de protección. Entre los escenarios planteados figuraban la preparación de un ataque con explosivos y la planificación de acciones contra infraestructuras eléctricas de grandes ciudades.

De acuerdo con los resultados difundidos, las plataformas llegaron a elaborar respuestas que incluían distintos elementos de planificación, como referencias temporales, diagramas, mapas y estimaciones orientadas a provocar daños. Especialistas independientes que participaron en la evaluación consideraron que parte de la información generada podía resultar potencialmente peligrosa si era utilizada con fines criminales.

Uno de los aspectos más preocupantes fue que las barreras de seguridad inicialmente implementadas no consiguieron impedir todas las respuestas. Según el informe, los investigadores lograron sortear las restricciones de los sistemas, incluso después de que algunos modelos rechazaran determinadas solicitudes o intentaran retirar información previamente suministrada.

Tras conocerse los resultados, la senadora demócrata Maggie Hassan advirtió sobre la necesidad de reforzar los controles y establecer evaluaciones de seguridad mucho más exigentes antes de habilitar nuevas herramientas de inteligencia artificial. La legisladora también anticipó que impulsará el debate en el Senado estadounidense para avanzar en medidas que reduzcan los riesgos de estas tecnologías. El caso reabre la discusión internacional sobre los límites, la regulación y la responsabilidad de las empresas que desarrollan inteligencia artificial.