Legisladores de Estados Unidos respondieron a la renuncia de un investigador de Anthropic con un nuevo impulso para detener el desarrollo de inteligencia artificial (IA) avanzada, incluyendo un proyecto de ley en el Senado que prohibiría la superinteligencia de forma absoluta.
Jacob Coxon renunció el 9 de septiembre y dijo que Anthropic y OpenAI están apostando con la vida humana.
¿Por qué la renuncia del investigador de Anthropic llegó al Capitolio?
Más de 20 legisladores respondieron al hilo, la mayoría pidiendo una nueva legislación sobre IA. El senador Bernie Sanders dijo que presentará una ley para prohibir la superinteligencia y pausar el desarrollo de la IA.
BeInCrypto informó que a comienzos de este mes, Sanders y el representante Greg Casar propusieron la “Ley para Prohibir la Superinteligencia Artificial”. Esta ley prohibiría para siempre el desarrollo y despliegue de IA superinteligente. También detendría el desarrollo de IA avanzada hasta que un regulador federal defina normas de seguridad.
Mientras tanto, Casar también calificó la situación como una emergencia y pidió audiencias en el Congreso. La representante Lori Trahan remitió a los legisladores a su ley bipartidista FRONTIER, presentada en julio junto al representante Jay Obernolte.
“La FRONTIER Act establece requisitos en niveles según el tamaño de cada desarrollador de IA de frontera, incluyendo tarjetas de modelo, marcos de gestión de riesgos, auditorías independientes, reportes de incidentes y evaluaciones continuas. También crea un estándar nacional uniforme para transparencia, auditoría y reporte de riesgos catastróficos, para evitar un mosaico de regulaciones estatales”, dice el anuncio.
El senador Chris Van Hollen quiere garantías obligatorias y conversaciones urgentes con China. El representante Ted Lieu presionó a la líderes republicanos para que impulsen el proyecto de ley AI Kill Switch que él presentó este año.
La representante republicana Anna Paulina Luna rompió con el patrón partidista y solicitó una sesión especial del Congreso sobre IA.
Jacob Coxon dice que los laboratorios quieren reglas
Mientras tanto, la presión no es solo política. Las empresas de IA también han estado pidiendo regulación. Coxon dijo a CNN que los ejecutivos que le piden al Congreso regulación lo hacen de forma sincera. Sin embargo, argumentó que ninguno confía lo suficiente en sus rivales como para ser los primeros en frenar.
“Estas personas también son completamente sinceras cuando piden ser reguladas… se encuentran en este escenario donde se ven obligados a competir para construir una tecnología mortal”, dijo.
Anthropic dijo por separado en una publicación de septiembre que la industria se beneficiaría de un mecanismo legal y verificable para coordinar el ritmo.
¿Dónde comienza el riesgo de extinción?
El ritmo solo importa por lo que Coxon cree que viene después. Explicó que si se le da a una IA el problema de investigar sobre IA, empieza a mejorarse sola.
Señaló el martes, cuando supuestamente los sistemas de IA de OpenAI resolvieron un problema milenario completamente de manera autónoma.
La parte aterradora, dijo, es usar ese mismo método sobre la propia IA. Los modelos mejoran modelos sin intervención humana, lo que Coxon llama una “explosión de inteligencia”.
“Ahora mismo no hay riesgo de extinción. Los modelos actuales, lo peor que pueden hacer es quizás hackear algo y posiblemente causar bastantes daños en infraestructuras… no son lo suficientemente inteligentes como para superarnos al nivel que podría llevar a la extinción”, dijo.
Sin embargo, Coxon advirtió que esa misma capacidad independiente, combinada con un poder mucho mayor, podría causar un caos extremo. Mencionó hackear infraestructuras críticas y crear armas biológicas de nivel extinción.
El post Renuncia en Anthropic hace que el Congreso hable de pausar la IA fue visto por primera vez en BeInCrypto.