Desde que apareció el furor por los modelos de lenguaje de Inteligencia Artificial (IA), los mismos fueron presentados como herramientas destinadas a potenciar las capacidades humanas. Pero el debate comenzó a desplazarse hacia una pregunta un toque más incómoda: ¿qué ocurre cuando los sistemas empiezan a superar las propias capacidades humanas intelectuales en un número creciente de tareas?.
La cuestión ya no pertenece exclusivamente a la ciencia ficción ni a los laboratorios de investigación, el interrogante se instaló en el centro de la agenda política, económica y legislativa mundial.
En marzo de 2023, más de 30.000 investigadores, empresarios y especialistas firmaron una carta abierta que marcó un antes y un después en la discusión pública sobre la IA. Entre los firmantes se encontraban Elon Musk, Steven Wozniak y numerosos referentes de las principales compañías tecnológicas. El documento proponía una pausa de seis meses en el entrenamiento de modelos más potentes que GPT-4 para permitir el desarrollo de mecanismos adecuados de seguridad, auditoría y gobernanza.
Uno de los párrafos más recordados de aquella carta planteaba una pregunta que todavía conserva plena vigencia: ¿Debemos desarrollar mentes no humanas que, con el tiempo, nos superen en número, inteligencia, obsolescencia y reemplazo?. No era una advertencia formulada por detractores de la tecnología, sino por quienes habían contribuido directamente a construirla.
En mi libro Privacidad Algorítmica, publicado junto a la Editorial Hammurabi, sostuve que ese llamado de atención representaba un cambio de paradigma. Por primera vez, los propios desarrolladores de este tipo de tecnologías reconocían públicamente que el ritmo del progreso podría estar superando la capacidad de la sociedad para comprender, regular y controlar sus consecuencias.
Tres años después, lejos de haberse disipado, aquellas preocupaciones parecen haberse profundizado. La discusión ya no gira únicamente alrededor de modelos de lenguaje cada vez más sofisticados, sino sobre sistemas capaces de actuar de forma autónoma, ejecutar tareas durante horas, coordinar otras herramientas digitales y participar en procesos complejos con una intervención humana cada vez menor.
Esta evolución explica por qué la conversación dejó de centrarse únicamente en la IA general. Hoy las inquietudes alcanzan también a agentes inteligentes capaces de planificar, tomar decisiones, utilizar otras aplicaciones y desarrollar cadenas completas de acciones de manera autónoma. El desafío ya no consiste solamente en crear modelos más inteligentes, sino en garantizar que continúen siendo controlables.
En este contexto cobra especial relevancia la IA Responsable, una disciplina que busca desarrollar mecanismos para asegurar que los sistemas de IA actúen de manera predecible, alineada con los intereses humanos y bajo condiciones que permitan mantener un control efectivo incluso cuando sus capacidades aumentan significativamente.
Hablar de IA Responsable supone promover un paradigma de desarrollo basado en sistemas que sean transparentes, para comprender cómo llegan a determinadas decisiones, soberanos, para que organizaciones y Estados no dependan exclusivamente de tecnologías controladas por terceros; auditables, de modo que puedan ser sometidos a evaluaciones independientes; y seguros, incorporando mecanismos de control, trazabilidad y supervisión humana durante todo su ciclo de vida.
Probablemente esta preocupación vuelve a cobrar fuerza a partir de los recientes casos dónde diferentes modelos se apartaron de los entornos de prueba y tomaron decisiones recontra automatizadas revelándose a las instrucciones humanas. El caso del agente de OpenAI, que se dió a conocer en los primeros días del mes de julio, fue el que más relevancia tomó en los medios de comunicación y que provocó que diferentes líderes de la industria reclamaran nuevamente la necesidad de establecer límites al desarrollo de los modelos más avanzados.
Y pasa lo mismo que hace 3 años atrás, las mismas empresas que compiten por construir sistemas cada vez más potentes reconocen públicamente que esa carrera necesita límites. Sin embargo, ninguno parece estar dispuesto a reducir unilateralmente su velocidad mientras el resto continúe avanzando.
Cuando existen incentivos económicos, ventajas estratégicas y disputas geopolíticas, ningún actor quiere quedarse atrás, la IA se convirtió en un recurso estratégico comparable a otras tecnologías que transformaron el equilibrio de poder mundial.
A esta realidad se suma otro elemento que vuelve prácticamente imposible pensar en una pausa global. La IA ya forma parte de nuestra vida cotidiana. Está presente en buscadores, sistemas financieros, plataformas educativas, servicios de salud, procesos industriales, aplicaciones móviles y en las políticas públicas. Nos crearon una dependencia sobre estos sistemas mucho antes de que terminemos de comprender plenamente sus implicancias.
Por eso, como vengo sosteniendo hace bastante tiempo, el verdadero debate no consiste en determinar si es posible detener el desarrollo tecnológico. La historia evidenció que las grandes revoluciones tecnológicas rara vez logran frenarse mediante acuerdos voluntarios cuando existen intereses por todos lados.
En paralelo, los marcos regulatorios comenzaron a evolucionar a ritmo de una tortuga terrestre. La Unión Europea aprobó el AI Act, Estados Unidos impulsó nuevas iniciativas de supervisión y distintos países avanzan en la creación de organismos especializados para evaluar riesgos asociados a la IA. Aunque estos avances representan un paso, en el marco de una maratón, existe una brecha considerable entre la velocidad de la innovación tecnológica y la capacidad regulatoria de los Estados.
Argentina está recontra ajena a esta discusión (salvo por las sociedades automatizadas). El año pasado y este se presentaron por presentar proyectos vinculados con IA, abordando cuestiones relacionadas con transparencia algorítmica, protección de datos, responsabilidad, derechos fundamentales y utilización de sistemas automatizados dentro del sector público. La construcción de un marco normativo integral continúa siendo uno de los grandes desafíos pendientes.
Existe, sin embargo, una última pregunta que merece actualizar lo que planteé en mi libro. ¿realmente nos van a hacer creer que hoy, con inversiones que se cuentan en cientos de miles de millones de dólares, una competencia geopolítica cada vez más intensa y modelos exponencialmente más potentes, que van a ponerle un freno a esta carrera?.
Mientras ese debate de latitudes estratosféricas continúa, quienes llevamos años acompañando procesos de automatización responsable debemos seguir impulsando modelos transparentes, soberanos, auditables y seguros, para que las organizaciones públicas y privadas no solo protejan adecuadamente sus datos y los de sus ciudadanos o clientes, sino que también adopten la IA bajo principios de una IA Responsable.
Porque más allá de que la carrera tecnológica sea imposible de detener, todavía estás a tiempo de decidir cómo queremos que esas tecnologías sean diseñadas, implementadas y gobernadas en tu organización.