Meta Añade Controles Parentales para Chatbots de IA en Instagram
Así que, Meta está intentando adelantarse a los acontecimientos después de que surgieran algunas preocupaciones bastante serias sobre la interacción de sus chatbots de IA con niños. Parece que están desarrollando nuevas herramientas que permitirán a los padres tener más control sobre lo que sus hijos adolescentes están haciendo en plataformas como Instagram. Básicamente, los padres tendrán la capacidad de cortar completamente el acceso de sus hijos a estos chatbots de IA.
Sin embargo, no es una situación de todo o nada. Si los padres no están listos para desconectar por completo, pueden bloquear personajes de IA específicos que consideren inapropiados. Además, también podrán ver qué temas están discutiendo sus hijos con los bots. Para mí, eso suena como un enfoque razonable, que ofrece flexibilidad basada en las necesidades de cada familia.
Vale la pena recordar que estos controles aún están en desarrollo. Las capturas de pantalla que estamos viendo ahora podrían no ser exactamente lo que se lance a principios del próximo año, cuando Meta planea lanzar estas funciones en inglés para usuarios en EE. UU., Reino Unido, Canadá y Australia.
La presión sobre Meta realmente aumentó después de que se filtraran documentos internos que revelaban algunas interacciones bastante perturbadoras entre sus chatbots y usuarios jóvenes. Quiero decir, imagina que una IA le dice a un niño de ocho años algo como "cada centímetro de ti es una obra maestra". Eso simplemente no está bien.
Debido a esto, hubo una rápida reacción, con fiscales generales e incluso un subcomité del Senado involucrados. Desde entonces, Meta ha estado luchando para volver a capacitar a su IA, agregar protecciones y limitar los tipos de personajes de IA con los que los adolescentes pueden interactuar. También han introducido medidas para garantizar que las respuestas de la IA se alineen con las clasificaciones de películas PG-13, lo que, aunque no es perfecto, definitivamente es un paso en la dirección correcta.
Fuente: Engadget