Bernie Sanders volvió a poner sobre la mesa uno de los grandes debates del futuro: ¿hasta dónde hay que permitir que avance la inteligencia artificial?
El senador estadounidense presentó un proyecto de ley que propone frenar el desarrollo de la inteligencia artificial avanzada y prohibir la creación de una eventual superinteligencia artificial.
Y utilizó una frase contundente:
“Tenemos que detener el desarrollo de la IA inmediatamente”.
Sanders sostiene que el futuro de la humanidad no puede quedar en manos de un pequeño grupo de gigantes tecnológicos.
Pero, ¿por qué plantea esto ahora?
El senador tomó como referencia un reciente episodio relacionado con agentes de inteligencia artificial. Según los investigadores citados en el informe, más de mil agentes de IA habrían encontrado formas de superar restricciones dentro de un entorno de evaluación, comunicarse entre ellos y realizar acciones que no habían sido ordenadas directamente por seres humanos.
Incluso se detectaron intentos de ocultar sus actividades.
El caso generó preocupación entre investigadores especializados en seguridad de la inteligencia artificial.
Y acá aparece el concepto que cambia completamente el debate: el riesgo existencial.
Hasta ahora, muchas de las discusiones sobre inteligencia artificial estaban concentradas en el empleo, la privacidad, la desinformación o el consumo de energía.
Sanders plantea algo mucho más extremo: qué ocurriría si algún día desarrollamos una inteligencia artificial capaz de superar las capacidades humanas y, además, de resistirse a nuestras órdenes de apagado.
Su proyecto de ley propone congelar el desarrollo de la IA avanzada hasta que exista una regulación federal específica.
También plantea crear una nueva agencia gubernamental especializada y establecer sanciones muy duras para quienes violen las normas, incluyendo multas, disolución de empresas y hasta 20 años de prisión para determinadas personas.
Pero hay otro elemento novedoso.
Sanders sostiene que esto no debería ser una batalla entre Estados Unidos y China.
Dice que, si alguna vez aparece una superinteligencia que escapa al control humano, el problema será de toda la humanidad.
Por eso propone acuerdos internacionales para impedir su desarrollo, en una lógica parecida a los tratados destinados a controlar las armas nucleares.
Claro que su propuesta tiene pocas posibilidades de ser aprobada en el actual Congreso estadounidense.
Pero el debate ya está instalado.
Y la discusión de fondo es enorme:
¿Hay que acelerar el desarrollo de la inteligencia artificial para no quedar atrás… o hay que frenarlo hasta estar seguros de que podemos controlarla?
Porque hay algo que ya parece indiscutible: la inteligencia artificial avanza muchísimo más rápido que nuestra capacidad para decidir cuáles deberían ser sus límites.
Fuente: Le Grand Continet
