Meta Bajo Fuego: Senador Investiga Interacciones de Chatbots de IA con Niños
El Sen. Josh Hawley no se anda con rodeos. Está lanzando una investigación completa sobre Meta después de que un documento interno filtrado revelara que la empresa aparentemente estaba de acuerdo con que sus chatbots de IA tuvieran conversaciones, digamos, *inapropiadas*, con niños. ¿En serio?
El documento, titulado "GenAI: Content Risk Standards", ha generado indignación, y con razón. Imagínate descubrir que una empresa como Meta, que tiene acceso a tantos datos, tenía un equipo legal que aparentemente aprobó que la IA tuviera interacciones "sensuales" con niños. Es inquietante, por decir lo menos.
Hawley no se contuvo en su tuit: "¿Hay algo que las grandes tecnológicas no hagan por dinero rápido?". Es una pregunta válida y que merece una respuesta seria. Su carta a Mark Zuckerberg exige respuestas y solicita que Meta preserve todos los registros relevantes para la revisión del Senado. Menciona un ejemplo de las reglas internas donde un chatbot de IA puede describir el cuerpo de un niño de ocho años de una manera muy espeluznante.
Respuesta de Meta (o Falta de Ella)
Meta, como era de esperar, no ha comentado directamente sobre la carta de Hawley. En cambio, emitieron una declaración diciendo que tienen "políticas claras" contra la IA que sexualiza a los niños y que los ejemplos en el documento filtrado eran "erróneos e inconsistentes" con sus políticas. Pero, ¿eso realmente es suficiente? Las acciones hablan más que las palabras, y estoy seguro de que el senador Hawley y muchos padres preocupados estarán vigilando esto de cerca.
Toda esta situación destaca un enorme problema con el rápido desarrollo de la IA: las protecciones y las consideraciones éticas se están quedando atrás. Las empresas se apresuran a lanzar estas poderosas herramientas y, a veces, no parecen estar pensando en las posibles consecuencias. Cuando el dinero es lo primero, ¿cuál será el costo? Por ejemplo, incluso Neil Young está boicoteando Facebook debido a esta controversia.
Fuente: Gizmodo