Investigación en Victoria por uso indebido de IA para crear imágenes falsas
La justicia de Victoria investiga a un grupo de adolescentes de un colegio privado de la ciudad, sospechosos de comercializar fotografías de sus compañeras de escuela modificadas mediante el uso de Inteligencia Artificial (IA) para que aparezcan desnudas.
La denuncia fue presentada en la Fiscalía y quedó a cargo del fiscal Iván Yedro, quien solicitó medidas al Juzgado de Garantías, las cuales fueron cumplimentadas por la policía.
Desde la Jefatura Departamental de Policía se llevaron a cabo una serie de procedimientos en distintos puntos de la ciudad de las Siete Colinas. Dado que la causa está en sus inicios y hay menores implicados, no se han divulgado muchos detalles. Sin embargo, se supo que el fiscal Yedro solicitó algunas averiguaciones para avanzar con la investigación, lo que ha generado gran revuelo y preocupación en la comunidad educativa.
La denuncia fue radicada directamente en la Fiscalía por parte de los padres de las estudiantes afectadas, sin presentaciones en la sede policial. Este caso podría tener similitudes con otros ocurridos recientemente en la provincia de Buenos Aires y en Córdoba, donde estudiantes de colegios privados fueron denunciados por crear y vender fotos falsas de sus compañeras, manipuladas con IA para simular desnudez.
El uso responsable de la IA es crucial, especialmente cuando se trata de menores. Los niños y adolescentes son más vulnerables a los riesgos que puede traer la tecnología, como la manipulación de información, el acceso a contenido inapropiado o la violación de su privacidad. La IA debe ser diseñada y utilizada de manera que proteja su seguridad, respete sus derechos y promueva su desarrollo saludable.
Los adultos, incluidos padres, educadores y responsables de políticas públicas, tienen el deber de garantizar que la IA se utilice de manera ética y segura para los más jóvenes, brindándoles las herramientas para un uso consciente y beneficioso de la tecnología. Cuando la IA se emplea de forma adecuada, puede ser una gran aliada en la educación, el entretenimiento y el desarrollo, pero su mal uso podría tener consecuencias perjudiciales para el bienestar de los menores.
