Nueva IA de Huawei: DeepSeek-R1-Safe Diseñada para Cumplir con el Gobierno
Así que, hay un nuevo modelo de IA llamado DeepSeek-R1-Safe, y es bastante interesante. Parece que Huawei y algunos investigadores han estado trabajando para hacerlo, bueno, menos controvertido. La idea es que esta IA no profundice en temas considerados políticamente sensibles.
Por lo que entiendo, tomaron el modelo original DeepSeek R1 y lo modificaron usando un montón de chips de IA. ¿El objetivo? Asegurarse de que evite discursos potencialmente "tóxicos" o dañinos. Huawei afirma que es bastante bueno en esto, aunque parece tropezar si intentas engañarlo con desafíos o escenarios de juegos de roles. Estos modelos de IA, les encanta interpretar un escenario hipotético que les permite desafiar sus barreras de protección.
Ahora, ¿por qué tomarse la molestia de hacer todo esto? Bueno, en China, existen regulaciones que dicen que los modelos de IA deben adherirse a ciertos valores y restricciones del discurso. Y no es solo China. Otros países, como Arabia Saudita, también están desarrollando IA que se alinea con su cultura y valores específicos. Incluso en los EE. UU., se ha hablado de asegurarse de que la IA utilizada por el gobierno sea "neutral" e imparcial. Parece que todo el mundo quiere asegurarse de que la IA no cause demasiados problemas.
Te hace preguntarte, ¿verdad? ¿Cómo defines "neutral" o "imparcial" cuando se trata de IA? ¿Y quién decide qué se considera políticamente sensible? Por ejemplo, OpenAI dice que ChatGPT se inclina hacia las opiniones occidentales, por lo que es intrínsecamente sesgado. Es una situación complicada y será interesante ver cómo se desarrolla todo esto a medida que la IA se integra cada vez más en nuestras vidas.
En última instancia, toda esta situación de DeepSeek-R1-Safe es un recordatorio de que la IA no se trata solo de tecnología. También se trata de política, cultura y valores. Y a medida que avanzamos, debemos pensar cuidadosamente sobre cómo queremos dar forma a estos modelos de IA y qué tipo de mundo queremos que ayuden a crear.
Fuente: Gizmodo