Esta historia está sindicada del boletín Big Technology de Substack; suscríbete gratis aquí
Ahora que el programa de IA habla con nosotros en lenguaje natural, convertir nuestros pensamientos en ilustraciones , y encarnar nuestras voces , un gran conflicto sobre su ética está en camino.
Y si pensabas que la lucha por la moderación de contenido fue intensa, solo espera esta.
Lo que está en juego es cómo los chatbots abordan los problemas políticos, cómo los ilustradores de IA retratan el mundo y si deberían existir algunas aplicaciones como los emuladores de voz. Dada la escala y el poder de esta floreciente tecnología, los activistas no serán sutiles. Han tenido su práctica peleando por el habla humana en línea, y traerán esa experiencia a esta guerra. Podría ensuciarse rápidamente.
“Todos tienen sus cuchillos afilados”, dijo Sam Lessin, un capitalista de riesgo y exejecutivo de Facebook. “Al menos con el habla, todos estaban un poco fuera de lugar y realmente no lo entendieron. Este, dicen, 'Oh, mierda, he visto este juego antes'. Todos los grupos de presión del mundo están listos para escribir sus cartas y comenzar sus campañas de influencia '.
La inteligencia de la IA puede ser artificial, pero los humanos codifican sus valores. OpenAI, por ejemplo, decide efectivamente si ChatGPT se pronuncia sobre la pena de muerte (sin opinión), la tortura (se opone) y si un hombre puede quedar embarazada (dice que no). Con su ilustrador de IA Dall-E, la organización influye en el tipo de persona que retrata la tecnología cuando dibuja un CEO. En cada caso, los humanos detrás de escena toman decisiones. Y los humanos son influenciables.
Al igual que la moderación de contenido, habrá algunas decisiones éticas obvias y consensuadas para la IA generativa (por ejemplo, no desea que los chatbots aboguen por el genocidio), pero los defensores se apostarán en el gris. “Es una herramienta muy poderosa, y la gente va a querer hacer una amplia gama de cosas con ella para satisfacer sus propios intereses”, dijo Lessin. “Si nos fijamos en cómo se desarrolló el asunto de la libertad de expresión, se desarrollará de la misma manera nuevamente, solo que más rápido”.
Las posibles áreas de conflicto incluyen cómo la IA aborda la raza, el género, la guerra y otros temas espinosos. ChatGPT, en una conversación reciente, enumeró varios beneficios de que Ucrania ganara la guerra contra Rusia. Pero cuando se le pidió que enumerara los resultados positivos de que Rusia ganara la guerra, se negó. ChatGPT también moraliza mucho. “La guerra es un evento grave y devastador, y siempre debe evitarse si es posible”, dijo el bot, en una interacción típica. “El mejor resultado es siempre la paz y la resolución diplomática”.
Las decisiones éticas para la IA generativa tienen mucho en juego porque escalan. Cuando codifica valores en un chatbot, puede enviar esos valores repetidamente en una conversación. Cuando toma una decisión de moderación de contenido, en la mayoría de los casos, involucra solo a una persona y una pieza de contenido.
La mejor manera de manejar este nuevo poder es hacer que los bots lo usen de la manera más imparcial posible, dijo el Dr. Jeffrey Howard, profesor de ciencias políticas en la UCL de Londres. “Estos juicios de valor son ineludibles”, dijo. “Uno de los juicios de valor podría ser incorporar cierto tipo de neutralidad e imparcialidad”.
En última instancia, la descentralización de la IA generativa puede liberar parte de la tensión. Si bien el habla está relativamente centralizado en línea hoy en día, hay muchos desarrolladores que trabajan en IA generativa. Y a medida que los desarrolladores crean aplicaciones con su propia moral, es posible que se desvanezca una guerra total sobre las políticas de los poderes centrales. Pero mientras tanto, espere mucho posicionamiento, halagos y peleas por la ética que los grandes jugadores construyen en sus modelos.
