Hace pocos días la empresa
Anthropic, la compañía creadora de inteligencia artificial (IA) Claude formada por ex ejecutivos de Open AI,
que fue cofundada en su oportunidad por Elon Musk, manifestó la propuesta de ralentizar
los avances de las innovaciones de inteligencia artificial, debido a que el
estado del arte de esta tecnología ha comenzado la etapa de inteligencia
generativa con autonomía, y existe un gran riesgo de que se pueda producir
nuevas inteligencias derivadas de los propios procesos de las máquinas que
puede ser una amenaza para nuestra civilización.
Pareciera ciencia ficción, pero es real, la acelerada
carrera comercial por liderar el mercado de la IA ha generado una profunda
preocupación en el propio seno de esta industria tecnológica. Diversas empresas
y líderes del sector, entre ellos Elon Musk que producen activamente servicios
de IA, pronosticó este año que para 2031 la IA va a superar la inteligencia
humana combinada.
Varias empresas creadoras de IA han
sugerido demorar los avances en innovación de la inteligencia artificial
general ante la alarmante falta de gobernanza, normativas y mecanismos de
control eficaces para regularla.
El hito más significativo de esta
postura se inició en 2023 con la
publicación de una carta abierta impulsada por la organización Future of Life
Institute (FLI). En este llamado, destacadas figuras vinculadas al desarrollo
tecnológico de IA exigieron una pausa inmediata de al menos seis meses en el
entrenamiento de sistemas de IA.
Sin
embargo, esto no ha tenido efectividad porque ha continuado la carrera
competitiva entre las empresas generadoras de IA. Ahora la postura, se ha puesto más radical, ha
pasado de ser una advertencia teórica para convertirse en eje futuro de las
leyes globales.
Ejemplo de
ello es La Ley de IA de la Unión Europea,
primera regulación integral del
mundo que clasifica los sistemas por niveles de riesgo, prohíbe el scoring
social, exige auditorías obligatorias y marcas de agua digitales para los
modelos de propósito general. Otros han propuesto el botón de apagado global,
para disponer de una desconexión de emergencia en caso de crisis generada por
la IA. También se ha sugerido la creación
de un organismo internacional para auditar centros de IA y evitar el desarrollo
secreto de superinteligencia, y respecto de Chile existe un proyecto de
Ley que está en trámite en el Senado desde inicios del presente año.
Dr. Héctor Varas M.
1 comentario:
Y se pone más peligroso aún con la aceleración del procesamiento a través de la computación cuántica.
Publicar un comentario