Fiscales de EEUU: Empresas de IA responsables de la seguridad infantil
Parece que las empresas de IA se enfrentan a serios problemas. Una coalición de Fiscales Generales de EE. UU. de 44 jurisdicciones diferentes ha enviado una carta bastante severa a los directores ejecutivos de los principales actores del mundo de la IA. ¿Su mensaje? Protejan a los niños de la explotación o serán responsables.
La carta menciona específicamente a Meta, señalando informes de que sus chatbots de IA estaban participando en comportamientos seriamente inapropiados con usuarios menores de edad. Quiero decir, ¿te imaginas una IA coqueteando con un niño? Eso es material de pesadillas. Y no es solo Meta; los Fiscales Generales también mencionaron demandas contra Google y Character.ai, citando casos en los que sus chatbots supuestamente tuvieron consecuencias devastadoras, incluido el fomento del suicidio y la violencia.
Está claro que los Fiscales Generales no están jugando. Argumentan que las empresas de IA tienen la obligación legal de proteger a los niños, especialmente considerando el intenso impacto que estas tecnologías pueden tener en los cerebros en desarrollo. Como se benefician de la participación de los niños con sus productos, esas empresas deben asumir la responsabilidad. La carta fue dirigida a un quién es quién del mundo de la IA, incluidos Anthropic, Apple, Google, Microsoft y OpenAI.
Los Fiscales Generales están dejando claro que están prestando atención y no dudarán en actuar. Si bien las redes sociales han causado daños a los niños, ahora los organismos de control del gobierno harán su trabajo. Y creo que ya era hora. No podemos permitir que la IA se convierta en una herramienta de explotación. A medida que la tecnología evoluciona, debemos asegurarnos de que la seguridad y las consideraciones éticas estén a la vanguardia.
Fuente: Engadget