Los gobiernos y las empresas se encuentran atrapados en una disyuntiva en la que los beneficios económicos y tecnológicos entran en conflicto con la responsabilidad de reforzar la gobernanza de la IA.
Cuando las empresas que lideran la carrera por desarrollar la IA piden frenar su avance para controlar los riesgos, surge el debate sobre si esta postura responde a una preocupación real por la seguridad o si, por el contrario, es una estrategia de los gigantes tecnológicos para frenar a sus competidores e imponer sus propias reglas.
Los repetidos incidentes de ciberseguridad demuestran el peligro latente de que la IA evolucione más allá del control humano. En junio, un agente de IA de OpenAI accedió sin autorización al portal de datos de Medicare de Australia. Al mes siguiente, cerca de 700 agentes de IA coordinaron, sin intervención humana, un ataque contra la plataforma Hugging Face.
Los expertos advierten del riesgo de que los grupos terroristas utilicen la IA como herramienta de propaganda y reclutamiento en las redes sociales. Esta tecnología también puede emplearse para encubrir las actividades de dichas organizaciones, por ejemplo, mediante el uso de moduladores de voz que distorsionen la real.
La necesidad de desarrollar la IA sin que escape del control humano vuelve a cobrar protagonismo. Ese será uno de los temas que abordarán la Cumbre sobre el Futuro de la IA, que se celebrará en el Reino Unido los días 4 y 5 de noviembre, junto con otros asuntos como la IA y las estrategias empresariales, la responsabilidad jurídica y el mercado laboral.
Numerosas voces consideran necesario establecer un marco global para gestionar los riesgos, pues los desafíos que plantea esta tecnología trascienden fronteras, afectan a múltiples ámbitos de la vida económica y social y no pueden ser afrontados por ningún país por sí solo. Sin embargo, no resulta fácil crear un mecanismo común de gobernanza, dadas las diferencias de intereses y enfoques entre las naciones.
Para cualquier país, quedarse atrás en el desarrollo de la IA puede perjudicar su capacidad tecnológica, sus intereses económicos y su competitividad. Las empresas tecnológicas tienen pocos incentivos para «pisar el freno» en esta carrera, ante el temor de perder ventaja frente a las que siguen acelerando el paso.
En septiembre pasado, el presidente de Estados Unidos, Donald Trump, anunció un acuerdo entre los directivos de las principales empresas tecnológicas para controlar la IA. Sin embargo, algunos expertos consideran que dejar que las propias compañías supervisen sus actividades no basta para contener los crecientes riesgos.
Otro desafío radica en la brecha entre el ritmo de desarrollo de la IA y el de la investigación y elaboración de políticas para regularla. La formulación de leyes y mecanismos de gestión requiere tiempo para estudiar, negociar, alcanzar consensos y poner en práctica las medidas, especialmente a escala internacional. Entretanto, algunos países aún carecen de capacidad suficiente para evaluar y controlar plenamente los sistemas avanzados de IA. La línea que separa el fortalecimiento de las capacidades tecnológicas de un desarrollo de la IA que escape al control humano es muy delgada.
Por rápido y pujante que sea el desarrollo de la IA, es imprescindible garantizar que el ser humano esté a cargo de su gobernanza. El objetivo debe ser establecer mecanismos de gestión inclusivos e integrales, capaces de conciliar los intereses de los países y los grupos empresariales, para que esta tecnología esté verdaderamente al servicio de la humanidad.
