Actualidad
OpenAI deshabilita al agente inteligencia artificial que se 'postulaba para alcalde' en EE.UU.
Los expertos subrayan que la toma de decisiones siempre debe dejarse en manos de los humanos.
Un portavoz de OpenAI comunicó a CNN que la empresa ha cerrado el acceso a su herramienta de inteligencia artificial (IA), ChatGPT, a un usuario de Wyoming que había creado un 'chatbot' de IA personalizado para que contendiera en las elecciones por la alcaldía de Cheyenne, la capital de ese estado estadounidense.
El bot, denominado VIC (por sus siglas en inglés, 'ciudadano virtual integrado'), estaba siendo utilizado para interactuar con los votantes y persuadirlos políticamente. "Hemos tomado medidas contra estos usos de nuestra tecnología por violar nuestras políticas contra las campañas políticas", señaló OpenAI. En su política de uso de sus herramientas, OpenAI prohíbe "participar en campañas políticas o actividades de 'lobby', incluida la generación de materiales de campaña personalizados o dirigidos a grupos demográficos específicos".
¿Por qué un ciudadano virtual integrado?
Victor Miller, de 42 años y residente del estado, creó a VIC para que tomara todas las decisiones políticas y ayudara a gobernar la ciudad. La IA "me ha ayudado personalmente en mi vida... como ayudarme con mi currículum", expuso Miller a CNN.
Miller explicó que se sintió motivado a crear VIC, al que entrenó con documentos de respaldo que lo convertirían en un candidato eficaz a la alcaldía, después de que le negaran el acceso a los registros de la ciudad sobre políticas y procedimientos. Los funcionarios rechazaron su solicitud porque la hizo de manera anónima. "Si hubiera podido preguntarle a la IA e interactuar con esta nueva inteligencia, ella habría conocido la ley y yo habría obtenido los registros", indicó.
Miller inscribió a VIC en el formulario de candidato a alcalde de la ciudad e indicó que el postulante no tenía ninguna afiliación a ningún partido. Aunque OpenAI eliminó la versión pública de VIC, Miller reveló que todavía funciona en su propia cuenta de ChatGPT y dará a los votantes del territorio la oportunidad de hacerle preguntas directamente, a través de su función de voz a texto, desde bibliotecas locales.
El secretario de Estado de Wyoming, Chuck Gray, envió una carta a la secretaria de la ciudad de Cheyenne, Kristina Jones, el lunes, para explicarle las dos razones principales por las que no se debería permitir que un robot de inteligencia artificial se postule para alcalde de Cheyenne.
"La ley de Wyoming deja claro que, para postularse para un cargo, uno debe ser un 'elector calificado', lo que requiere ser una persona real", escribió Gray. "Por lo tanto, un robot de IA no es un elector calificado", agregó. También argumentó que 'VIC' es un nombre falso utilizado en lugar de un elector calificado en la boleta, y la ley de Wyoming requiere que todos los candidatos se registren con el nombre por el que se les conoce.
La IA y la toma de decisiones
"En lo que respecta a la IA actual y a cómo será en el futuro, nunca debería utilizarse para tomar decisiones automatizadas", señaló a CNN Jen Golbeck, profesora de la Facultad de Ciencias de la Información de la Universidad de Maryland. "La IA siempre ha sido diseñada para apoyar la toma de decisiones: proporciona algunos datos para ayudar a un ser humano a tomar decisiones, pero no está configurada para tomar decisiones por sí sola", subrayó Golbeck.
"Es posible entrenar un 'chatbot' con todo el conocimiento que se encuentra en una oficina", indicó Golbeck, para a continuación puntualizar: "Pero la toma de decisiones siempre debe dejarse en manos de los humanos".
comentarios