Meta Elimina Deepfake de IA Dirigido a Candidata Presidencial Irlandesa
He estado siguiendo el auge del contenido generado por IA con una mezcla de fascinación y preocupación, y esta última noticia definitivamente entra en la última categoría. Resulta que Meta tuvo que eliminar un video deepfake dirigido a Catherine Connolly, una candidata presidencial irlandesa. Esto no fue solo una broma inofensiva; el video la mostraba falsamente retirándose de la elección.
Lo que es particularmente perturbador es lo sofisticados que se están volviendo estos deepfakes. Los perpetradores no solo crearon una versión falsa de Connolly; también se hicieron pasar por periodistas de RTÉ News, una emisora irlandesa bien conocida. Esto realmente difumina la línea entre la realidad y la fabricación, y es fácil ver cómo los votantes podrían ser engañados, especialmente con el video siendo compartido miles de veces antes de su eliminación.
Connolly, con razón, lo calificó como un "intento vergonzoso" de manipular a los votantes y socavar la democracia. Sabes, esto te hace preguntarte sobre las implicaciones para futuras elecciones. Si los deepfakes pueden difundirse tan rápidamente, ¿cómo podemos asegurar que las personas estén tomando decisiones informadas basadas en la verdad, y no en la ficción generada por IA?
Aunque Meta actuó para eliminar el video y la cuenta ofensora, esto plantea una pregunta mayor: ¿están haciendo lo suficiente las plataformas de redes sociales para combatir los deepfakes? Creo que la respuesta se inclina hacia "no". El hecho de que este video haya logrado ganar tracción antes de ser señalado sugiere que sus sistemas de detección necesitan una mejora seria. Y según algunos informes, parece que no están haciendo lo suficiente.
El regulador de medios irlandés también está involucrado, lo que demuestra la seriedad con la que se está tomando esto. No se trata solo de proteger a los candidatos individuales; se trata de salvaguardar la integridad de todo el proceso democrático. Creo que este incidente debería servir como una llamada de atención para todos los involucrados.
Fuente: Engadget