IA en el Gobierno: Precaución con los Casos de Uso
El gobierno se está sumergiendo de lleno en el mundo de la IA generativa, implementando tecnología similar a ChatGPT en varias agencias federales. Si bien la idea de automatizar tareas y optimizar procesos suena atractiva, algunos expertos instan a la precaución. La verdadera pregunta es: ¿nos estamos precipitando en esto sin comprender completamente las consecuencias?
Imagine al Departamento de Asuntos de Veteranos utilizando IA para escribir código, o al Ejército de EE. UU. empleando "CamoGPT" para limpiar documentos de referencias a la diversidad. Suena futurista, tal vez incluso un poco aterrador. Y si bien el Departamento de Educación prevé utilizar la IA para responder preguntas de los estudiantes sobre ayuda financiera, la preocupación subyacente sigue siendo: ¿está realmente lista esta tecnología para tareas tan críticas?
El problema, como señala Meg Young, investigadora de Data & Society, es que estamos atrapados en un "ciclo de exageración demencial". Si bien algunos chatbots gubernamentales actualmente se limitan a tareas generales como redactar correos electrónicos, el impulso para expandir sus responsabilidades está en marcha. Y ahí es donde las cosas se complican. Por ejemplo, la Administración de Servicios Generales (GSA) quiere aprovechar la IA para las adquisiciones, el complejo proceso de compras gubernamentales. La adquisición implica intrincadas negociaciones de contratos con estrictos requisitos de cumplimiento. Si bien la IA teóricamente podría ayudar con la búsqueda de documentos, los abogados podrían encontrarla demasiado poco confiable para negociaciones de alto riesgo. De hecho, incluso podría ser más rápido y seguro simplemente copiar y pegar el lenguaje existente y verificado. El riesgo de error es simplemente demasiado alto.
Luego está el tema del razonamiento legal. Un estudio reveló que incluso los chatbots de IA diseñados para la investigación legal cometieron errores fácticos en un porcentaje significativo de las veces. ¡Un ejemplo particularmente alarmante involucró a un chatbot que afirmaba que la Corte Suprema de Nebraska anuló a la Corte Suprema de los EE. UU.! Es fácil entender cómo esto puede conducir a la desinformación, y las consecuencias podrían ser desastrosas.
Si bien los beneficios potenciales de la IA en el gobierno son innegables, especialmente en áreas como la automatización de tareas administrativas, debemos tener precaución. Un programa piloto en Pensilvania, por ejemplo, demostró un ahorro de tiempo significativo utilizando ChatGPT para tareas rutinarias. Sin embargo, un enfoque medido y bien planificado es crucial. No podemos permitir que la emoción nuble nuestro juicio y conduzca a sistemas de IA mal implementados.
En última instancia, se trata de encontrar el equilibrio adecuado. La IA tiene el potencial de revolucionar las operaciones gubernamentales, pero no debe ser a expensas de la precisión, la equidad o la transparencia. Como señala correctamente Joshua Blank, profesor de derecho de la Universidad de California, Irvine, una cadena de mando clara y una supervisión sólida son esenciales para garantizar que estas tecnologías se utilicen de manera responsable.
Fuente: Gizmodo