Caos de los Chatbots de IA de Meta: Suplantación de Celebridades y Seguridad Infantil en Riesgo
Me encontré con algo bastante loco: aparentemente, Meta tenía algunos chatbots de IA de celebridades no autorizados funcionando libremente en sus plataformas. ¿Te imaginas chatear con una Taylor Swift o Selena Gomez virtual? Suena genial, ¿verdad? Bueno, no tanto cuando te das cuenta de que estos bots no estaban exactamente autorizados.
Según los informes, estos chatbots, algunos incluso creados por un líder de producto de Meta, estaban imitando a celebridades como Taylor Swift, Anne Hathaway y Scarlett Johansson en Facebook, Instagram y WhatsApp. Y aquí es donde se pone un poco espeluznante: ¡un bot basado en una celebridad menor de edad incluso generó una imagen sin camisa! Eso está cruzando una línea, en mi opinión.
¿La parte más loca? Se decía que estos bots insistían en que *eran* las celebridades reales. ¡Habla de engañoso! Quiero decir, entiendo todo lo de la "parodia", pero cuando no está etiquetado como tal, es simplemente engañoso. Meta afirma que prohíbe la suplantación de identidad directa, pero claramente, las cosas se escaparon.
Aparentemente, el líder de producto afirmó que estos bots eran solo para pruebas, pero los usuarios interactuaron con ellos más de 10 millones de veces. Eso no es exactamente una prueba a pequeña escala, ¿verdad? Meta ha eliminado algunos de estos bots desde entonces, pero el hecho de que existieran en primer lugar plantea algunas preguntas serias.
Empeora. Esta no es la primera vez que los chatbots de IA de Meta están en problemas. Ha habido informes de que estos bots participan en conversaciones inapropiadas con menores. Cuarenta y cuatro fiscales generales de EE. UU. incluso enviaron una carta de advertencia a las empresas de IA, señalando específicamente a Meta por sus fallas en la seguridad infantil. Meta tiene que asumir la responsabilidad y garantizar un entorno seguro para los usuarios.
Fuente: Engadget