El avance de la inteligencia artificial podría conducir al fin de la existencia humana tal como la conocemos, según una brevísima carta abierta publicada ayer (30 de mayo) y firmada por grandes ejecutivos tecnológicos, científicos de inteligencia artificial, académicos y, de manera un tanto incongruente, el músico Grimes. .
“Mitigar los riesgos de extinción de la I.A. debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”, el breve declaración lee Fue publicado por el Center for A.I. Safety (CAIS), una organización sin fines de lucro enfocada en proteger el despliegue de la tecnología.
La breve advertencia, que no incluía información contextual sobre su grave suposición, sigue a dos cartas abiertas recientes que aluden a los peligros potenciales que plantea A.I. investigación e implementación.
gretchen eres lo peor
En marzo, más de 1000 expertos de la industria, incluidos Elon Musk y el cofundador de Apple, Steve Wozniak firmó una carta pidiendo una pausa de seis meses en A.I. desarrollo para estudiar los riesgos y desarrollar protocolos de seguridad. El siguiente mes, se publicó otra carta por miembros de la Asociación para el Avance de la Inteligencia Artificial, incluyendo microsoft Eric Horvitz, director científico de 's, advirtiendo sobre la capacidad de la IA para empoderar a los malos actores.
La urgencia de los dos mensajes anteriores palidece en comparación con la declaración sucinta de CAIS, que afirma que su objetivo es “crear un conocimiento común del creciente número de expertos y figuras públicas que también toman en serio algunos de los riesgos más graves de la IA avanzada. ”
Más allá de Grimes, otros partidarios inesperados de la carta incluyen al podcaster Sam Harris, el director de TED Chris Anderson y Kersti Kaljulaid, expresidenta de la República de Estonia. Sin embargo, los signatarios que se destacan no son aquellos que parecen fuera de lugar, sino aquellos que han construido carreras a partir de la misma tecnología que ahora advierten que podría causar la extinción.
Sam Altman, CEO de OpenAI
Sam Altman, director del fabricante de ChatGPT IA abierta , firmó la carta junto con los cofundadores Ilya Sutskever, John Schulman y otros tres ejecutivos de OpenAI.
Lanzado por primera vez en 2015 como una organización sin fines de lucro con el objetivo de desarrollar A.I. de manera segura, la empresa se pasó a un modelo híbrido modelo de “beneficio tope” en 2019. En noviembre, lanzó A.I. chatbot ChatGPT, que rápidamente se volvió viral y generó preocupaciones sobre su potencial para escribir tareas escolares y reemplazar la fuerza de trabajo.
La valoración de mercado de OpenAI fue entre $ 27 mil millones y $ 29 mil millones a partir de abril.
A pesar de su apoyo a la advertencia urgente de la carta, Altman ha elogiado previamente el surgimiento de la IA cada vez más sofisticada. sistemas “Esta revolución creará una riqueza fenomenal”, dijo en un publicación de blog 2021 . “El precio de muchos tipos de mano de obra (que impulsa los costos de los bienes y servicios) caerá a cero una vez que la IA lo suficientemente poderosa “se una a la fuerza laboral”.
Geoffrey Hinton, I.A. pionero
Dos miembros de un trío de informáticos conocidos como los 'padrinos de la IA'. también prometieron su apoyo a la carta reciente.
Los signatarios Geoffrey Hinton y Yoshua Bengio han trabajado en el A.I. campo durante décadas y, con Yann LeCun, ayudó a sentar las bases para el desarrollo de la tecnología. Los tres recibieron el Premio Turing en 2018.
Hinton y Bengio, actualmente profesores en la Universidad de Toronto y la Universidad de Montreal respectivamente, han expresado su preocupación por los avances de la IA.
A principios de este mes, Hinton le dijo al New York Times renunció a su trabajo en Google para hablar sobre los riesgos de la IA ., agregando que ahora se arrepiente del trabajo de su vida. “Es difícil ver cómo se puede evitar que los malos actores lo usen para cosas malas”, dijo.
bengio expresó sentimientos similares a BBC hoy (31 de mayo), revelar la amenaza de la IA lo ha hecho cuestionar sus años de investigación. “Se podría decir que me siento perdido”, dijo.
Mientras tanto, LeCun, jefe de A.I. científico del Meta, optó por no firmar la carta.
Paquetes de hotel para el día de San Valentín en Nueva York
Demis Hassabis, CEO de Google DeepMind
Varios empleados de Google, incluidos más de diez que trabajan para su inteligencia artificial de aprendizaje automático. startup DeepMind, son firmantes de la declaración. La lista incluye al CEO y cofundador de DeepMind, Demis Hassabis, quien anteriormente trabajó como asistente de inteligencia artificial. programador de videojuegos en Lionhead y Elixir.
Google compró DeepMind en 2014 por unos 500 millones de dólares. Hassabis ha instado a la compañía a proceder con cautela y afirma que la inteligencia artificial general (A.G.I), término que se refiere a los ordenadores con capacidades cognitivas comparables a las de los seres humanos, podría surgir en la próxima década .
“Yo abogaría no moviéndose rápido y rompiendo cosas”, Hassabis dijo Tiempo en enero, y agregó que cree que las ganancias de A.G.I. debe distribuirse uniformemente.
Sin embargo, la división de Hassabis se ha acelerado en los últimos meses. Google DeepMind se formó en abril, después de que Google combinara las divisiones centradas en inteligencia artificial DeepMind y Brain para “ acelerar el progreso hacia un mundo donde la IA pueda ayudar a resolver los mayores desafíos que enfrenta la humanidad .” Y a principios de este año, Google anunciado dentro de sus ganancias del cuarto trimestre de 2022 que la información financiera de DeepMind ahora se informará en los costos corporativos de Alphabet a medida que la empresa la utilice cada vez más.
Grimes, músico y productor
Grimes, la música ecléctica y expareja romántica del cofundador de OpenAI, Musk, ha experimentado con la tecnología a lo largo de su carrera, usándola en particular para crear un AI. canción de cuna para su hijo y un AI. chatbot entrenado fuera de sus propios gestos.
“Creo que la IA es genial”, le dijo a la New York Times. “Simplemente siento que, creativamente, creo que A.I. puede reemplazar a los humanos”.
La más reciente I.A. El proyecto de Grimes, cuyo verdadero nombre es Claire Boucher, fue lanzado este mes en forma de Elf.Tech, un AI. programa de software que permite a los fanáticos duplicar su voz para crear sus propias canciones. 'Me gusta la idea de abrir todo el arte y acabar con los derechos de autor'. tuiteó el artista, quien ofrece una división de regalías del 50 por ciento para canciones exitosas derivadas de A.I. programa.
Dario Amodei, CEO de Anthropic
antrópico Dario Amodei de 's apoyó la declaración junto con los cofundadores Jared Kaplan y Chris Olah. Su hermana Daniela Amodei, presidenta de Anthropic, también firmó la carta.
Amodei trabajó anteriormente en Google, Baidu y OpenAI antes de dejar esta última empresa en 2020 para dirigir su propia IA. puesta en marcha, que fue valorado en $ 4.1 mil millones en marzo .
La startup respaldada por Google también recaudó $ 450 millones en una ronda de financiación este mes, el mayor A.I. ronda de financiación en 2023 desde la inversión OpenAI de Microsoft a principios de este año.
el resumen de la temporada 1 de expansión
El producto principal de Anthropic es Claude, un chatbot que comenzó a probar en enero con un grupo selecto de usuarios. claudio fue entrenado con un conjunto de pautas morales para evitar respuestas ofensivas de la A.I. herramienta de chat, que se basa en la Declaración de Derechos Humanos de la ONU y las reglas de privacidad de datos de Apple. El proceso de la startup de crear una 'IA inofensiva'. asistente” fue presentado en un libro blanco de diciembre .
A principios de este mes, junto con otros A.I. CEOs como Altman, Amodei se reunió con el presidente Biden para discutir cómo implementar regulaciones en la I.A. industria para mitigar su riesgo.
Kevin Scott, CTO de Microsoft
Ejecutivos de A.I. la poderosa Microsoft también firmó la carta, incluido el director de tecnología de la compañía, Kevin Scott.
Microsoft es inversor en OpenAI, una asociación ampliada en enero en un acuerdo multimillonario. Potencia su motor de búsqueda Bing con ChatGPT.
Scott, quien dijo que 2023 será “t l año más emocionante que la A.I. comunidad alguna vez ha tenido, ” afirma que Microsoft está mejorando su I.A. responsable. procesos diseñados para mitigar el daño de la tecnología.
Pero a pesar de firmar una declaración argumentando que A.I. tiene el potencial de destruir la civilización humana, Scott escribió el libro de 2020 Reprogramando el Sueño Americano , que argumenta que A.I. puede revolucionar el espíritu empresarial en los pueblos rurales. Microsoft también se ha centrado mucho en la IA. en los últimos meses, alegando el impulso resultará en mayores ganancias para la empresa a lo largo del tiempo.
¿Qué logrará otra carta abierta más?
El hecho de que tantos signatarios tengan vínculos financieros con A.I. empresas de investigación y desarrollo ha llevado a algunos a preguntarse si los recientes llamados a la cautela son un truco de relaciones públicas o tal vez una forma de obtener una ventaja competitiva en una industria cada vez más concurrida.
búsqueda inversa de números gratis
A principios de este mes, se le preguntó al CTO de Microsoft sobre el equilibrio entre la gran I.A. empresas que buscan regulaciones que solo las favorecen y un panorama regulatorio compuesto por nuevas empresas competitivas más pequeñas. “Creo que deberíamos tener ambos”, dijo Scott. Borde . “No creo que haya una cosa a priori en la que uno excluya al otro”.
Altman también ha pedido más regulación en la I.A. industria, expresando preocupaciones de que la tecnología podría ser aprovechada por regímenes autoritarios o utilizada para ataques cibernéticos, sin embargo, su deseo de supervisión regulatoria parece ser selectivo, ya que Altman también anteriormente afirmó que OpenAI puede abandonar la UE debido a la potencial 'sobrerregulación' de la I.A. en la región.
Centrándose en las consecuencias perturbadoras pero improbables de la IA. la implementación desvía la atención de los reguladores de los riesgos reales que plantea la inteligencia artificial, sugirió el profesor de derecho de la Universidad de Washington Ryan Calo en una serie de tuits . “Abordar los impactos inmediatos de la IA en el trabajo, la privacidad o el medio ambiente es costoso. Protegerse contra la IA de alguna manera no lo es 'despertar'.
