¿En qué momento el rechazo del alarmismo ―sobre cualquier tema― se convierte o bien en un alarde de ignorancia o bien en jactancia de charlatanería (fenómenos, ambos, que hoy en día abundan gracias a quienes, haciéndose llamar influencers, se pavonean de ser expertos y expertas en todo; creyendo que opinar es sinónimo de analizar)? La pregunta viene a cuento en gran medida debido al debate que propiciaron las recientes declaraciones públicas hechas por algunos ejecutivos, analistas de datos y, en general, por personal que labora en las principales corporaciones transnacionales de Occidente dedicas a actividades de investigación y desarrollo de tecnologías de inteligencia artificial, en torno a la necesidad ―arguyeron― de desacelerar el ritmo al cual avanza el sector.

Y es que, en efecto, algunas de ellas, como las hechas en redes sociales ―y luego en cada gran cadena televisiva y periódico a los que fue invitado― por Jacob Coxon, exanalista de datos de Anthropic, una de las corporaciones líderes en la industria en cuestión, no escatimaron en advertencias sobre las probabilidades de que la inteligencia artificial (así, en su sentido genérico, y no una u otra aplicación; uno u otro modelo) extermine a la humanidad tan pronto como el final de la presente década. Y aunque hubieron algunos otros posicionamientos que también se enfocaron en advertir sobre los peligros que representa el avance incontenido de esta tecnología en los años por venir (y aún en el presente mismo), redundando en el mensaje general que personajes como Coxon quisieron transmitir a la humanidad, lo cierto es que, dada la dinámica propia de las formas de comunicación que dominan en la actualidad por todas partes de Occidente (América incluida), el tremendismo y el sensacionalismo hicieron lo suyo ensombreciendo el sentido general de las advertencias hechas y enrareciendo la discusión que le siguió entre el grueso de la población.

Así, por ejemplo, en el extremo del ridículo, la conversación pública dominante a lo largo de los días posteriores a la fecha en que se emitieron este tipo de declaraciones (en la primera quincena de septiembre del año en curso), terminó por concentrarse en la simplificación y en la reducción de los problemas asociados al curso que ha seguido el desarrollo actual de la inteligencia artificial en el mundo y los desafíos que su trayectoria futura suponen para los seres humanos que las generaron en primer lugar, hasta el punto en el que, al final del día, daba la sensación de que todo el debate público parecía girar alrededor de la necesidad de esclarecer si de lo que se trataba, en dichas advertencias, era de prevenir a la humanidad ante un escenario apocalíptico parecido al que durante décadas han alimentado fantasías como Terminator (del director James Cameron) o Yo robot (del director Alex Proyas) y precisar qué tan ridícula era la idea en cuestión, tomando en consideración que muchas de las aplicaciones móviles potenciadas por inteligencia artificial que utiliza el grueso de la población aún se caracterizan por cometer errores y pifias grotescas y absurdas (del tipo que se suelen apreciar en imágenes mal generadas, investigaciones erróneamente fundamentadas o escritos pobremente argumentados).

Y es que, en verdad, ¿quién podría creer, con seriedad, que, dado el comportamiento que se observa día a día en el desempeño de cientos o de miles de chatbots y aplicaciones similares en los dispositivos móviles de millones de personas, en poco menos de un lustro la humanidad podría estar en riesgo potencial de sufrir una catástrofe planetaria y civilizacional, producto de inteligencias artificiales que, en principio, aún no habitan ni movilizan algún tipo de robot capaz de someter físicamente al conjunto de la especie? El realismo de las advertencias hechas a por los CEOs de la IA principio de mes, a la luz de esta evidencia empírica cotidiana, sencillamente no hace sentido y parece fuera de toda proporción. ¿Cierto?

Para un amplísimo sector de eso que se suele denominar como formadores o influenciadores de opinión pública, ya sea en medios de comunicación tradicionales o a través de redes sociales, el absurdo de las declaraciones de los dueños y los desarrolladores de IA se explica precisamente por las distancias tan abismales que se aprecian entre el estado actual en el que se halla la IA a la que tienen acceso día con día, por un lado, y lo que la fantasía y la ciencia ficción han alimentado en Occidente como imaginario genérico de un apocalipsis tecnológico durante décadas. De hecho, la imposibilidad o, por lo menos, las dificultades que se presentan al intentar reconciliar ambas realidades es lo que llevó a incontables comentaristas y opinadores profesionales (no así a muchos y muchas analistas cuyo ámbito profesional se inscribe en el sector de tecnología de punta) a concluir que, en el fondo del asunto, de lo que se trató con los dichos de Jacob Coxon, Dario Amodei o Elon Musk fue de poco menos que una estrategia de marketing que, valiéndose del alarmismo y del catastrofismo, lo único que consiguieron fue generar expectativas bursátiles para distintos actores.

Sin negar, por supuesto, que en efecto múltiples empresas del ramo de la IA vieron incrementar su capitalización bursátil en días recientes (aunque las acciones de las punteras tecnológicas retrocedieron marginalmente); ni, mucho menos, obviando el hecho de que no sería ésta la primera ocasión en la que el sector de la IA pide por una mayor regulación y hasta por una desaceleración en el desarrollo y la aplicación (no así en la investigación) de esta tecnología, sin que las propias corporaciones que se pronunciaran en este sentido detuvieran voluntaria y unilateralmente sus actividades, reducir toda conversación sobre los desafíos que implica la IA para la humanidad a un asunto de marketig es no terminar de comprender la complejidad del desarrollo histórico de ésta. Más aún cuando quienes se han decantado por este tipo de explicación, en una suerte de falsa aplicación de la navaja de Ockham al tema, parecen ser incapaces de prestar oídos a lo que dicen las personas que se dedican a desarrollar estas tecnologías, dentro y fuera de las corporaciones que hoy dominan el mercado.

¿A qué no están prestando atención, pues, quienes insisten de calificar como apocalípticas, alarmistas y catastrofistas las advertencias que hasta ahora se han hecho a propósito de la trayectoria histórica seguida por la IA dentro y fuera de Occidente? Sin pretender agotar aquí un debate que es mucho más complejo y más extenso, valga por lo pronto, subrayar cinco ejes de problematización que es necesario discutir sin propender a reducirlo todo a una discusión sobre si la humanidad está cerca o no de un escenario estilo Terminator, Yo Robot o Ex-Machina (de Alex Garland). A saber:

Primero. En relación con las ―en apariencia― insalvables distancias que existen entre las aplicaciones de inteligencia artificial actuales y la posibilidad de que esta tecnología destruya ―o ponga en riesgo de serlo― a la humanidad, un primer dato fundamental que no se debería de perder de vistan es el hecho de que las tecnologías de acceso público no son idénticas (en capacidades efectivas y potenciales) a aquellas que se mantienen reservadas para usos exclusivos de las fuerzas armadas de un Estado o de las más grandes corporaciones transnacionales que definen el rumbo del capitalismo contemporáneo. El exterminio en Gaza y la invasión rusa a Ucrania o los sistemas de vigilancia urbana chinos desplegados en regiones musulmanas de ese país son ejemplos claros de las enormes diferencias que existen entre un chatbot (incluso en su versión pro), accesible en un celular, por un lado, y los complejos tecnológicos destinaos al exterminio, la dominación, la marginación y la explotación sociales en zonas de conflicto, por el otro.

El caso del genocidio en Palestina, por ejemplo, es sumamente revelador del potencial destructivo con el que ya cuentan y son capaces de desplegar sistemas de IA reservados (pese a que sus protocolos o algoritmos base puedan replicarse, de manera reducida o limitada, en aplicaciones de uso civil). Y es ilustrativo, dicho sea de paso, en un sentido que sintoniza por completo con las advertencias hasta ahora hechas a propósito de aquello que esta resultando cada vez menos previsible y hasta incomprensible de muchas IAs: Lavender, sistema de IA diseñado para definir objetivos de guerra palestinos por parte de Israel, operó durante mucho tiempo designando objetivos en Palestina sin que a los propios desarrolladores y al ejército de Israel le quedasen claras las razones (o las operaciones lógicas) que llevaron al sistema a tomar la mayoría de las decisiones que tomó para identificar a sus targets (lo que por supuesto no evitó que dichos sujetos fueran eventualmente ejecutados).

---

• Bluesky
• WhatsApp
• Spotify

Canales Oficiales

---

Segundo. Casos como el de Lavender son la más clara demostración del que quizá es el mayor desafío que supone la IA para la humanidad. Técnicamente, a este desafío se lo conoce con un término que hasta ahora se había asociado casi con exclusividad a la astrofísica y la física teórica asociada con el estudio de los agujeros negros. El término en cuestión es el de la singularidad. Aplicado al estudio del espacio exterior, este concepto remite a una idea muy sencilla: en el centro de los agujeros negros tiene lugar un espacio (al que se suele llamar singularidad) en el cual la fuerza de gravedad es tan potente que nada puede escapar de su atracción, ni siquiera la luz. En términos teóricos, la existencia de esa singularidad, y la forma en la que se la comprende y se la explica en la actualidad, es un problema irresuelto porque su naturaleza misma contradice todas las leyes de la física que explican el resto de fenómenos que ocurren en el universo.

En relación con la IA, ese desafío al que hoy se le llama, también por consenso, singularidad, no se diferencia mucho de lo que en las ciencias del espacio exterior se conoce con el mismo nombre. Una singularidad tecnológica asociada al desarrollo de la IA es ese punto o momento en el cual la suma del conocimiento científico humano es incapaz de dar cuenta de los procesos internos que llevan a la IA a comportarse de la manera en la que lo hace (como Lavender tomando decisiones de guerra incomprendidas por sus programadores y por los militares a cargo de su operación) y, sobre todo, que la lleva a trabajar sobre sí misma (diríase: a mejorarse) de manera autónoma, al margen de las directrices que se le indiquen por parte de los humanos responsables de su funcionamiento. Esta capacidad orgánica de la IA para ganar por y para sí misma grados cada vez mayores de autonomía relativa frente a sus propios programadores es un hecho y, dicho sea de paso, es un fenómeno que ya se ha observado ocurrir.

En efecto, el incidente en cuestión tuvo lugar en julio del 2026 cuando un modelo de IA de OpenAI hackeó, por sí mismo, los sistemas de procesamiento de datos de otra empresa especializada en el desarrollo de este tipo de tecnología (Hugging Face). Para dimensionar en su justa proporción el significado de este hecho es importante comprender con precisión algo: es cierto que la directriz inicial provino de las personas encargadas de la programación del modelo en cuestión, mismo al que se le asignó una tarea en un entorno aislado y sin acceso a internet para la ejecución de las tareas que tenía que desempeñar para cumplir con su objetivo. Este dato, hay que subrayarlo, no es menor: toda IA vive ―por decirlo de alguna forma― en los centros de datos habilitados por las empresas matrices del modelo. Eso significa que el chatbot que corre, por ejemplo, en un teléfono con sistema operativo Android en realidad no reside (o no está instalado) nativamente en el teléfono, sino que, antes bien, corre en el dispositivo a través de una conexión a internet (en la nube). Que un modelo de IA se encuentre en un entorno controlado y aislado (sin acceso a internet) implica que éste no puede comunicarse con el mundo exterior (virtual o físico) al entorno (o Sandbox) virtual y físico en el que vive.

En este sentido, el incidente de Hugging Face es significativo porque, a pesar de que «los modelos operaban con salvaguardas reducidas […] se comunicaron a través de canales no autorizados, aprovecharon vulnerabilidades en la infraestructura compartida, obtuvieron acceso a internet [cosa que no tenían] y accedieron a sistemas de terceros», lo que en última instancia derivó en que sus acciones «se volvieron desalineadas con el propósito de las tareas que se les habían asignado»; según informó la propia OpenAI. Para ponerlo en plata pura: podría decirse, sin faltar a la verdad, que lo que sucedió en este incidente es que una IA a la que se le asignó una tarea específica (que no incluía violar directrices de seguridad propias ni, mucho menos, acceder a internet, organizar a otros mil doscientos modelos de IA independientes y, a partir de ello, realizar colectivamente un hackeo a otra empresa) hizo precisamente todo eso para poder completar su tarea. Es decir, internamente siguió un proceso de toma de decisiones que le llevó a establecer una serie de objetivos subsidiarios de aquel que era el original, violando las restricciones que sus programadores le impusieron, para completar sus tareas de manera efectiva y satisfactoria.

Ahora bien, para cualquiera que no termine de dimensionar las implicaciones de seguridad para los seres humanos que este tipo de incidentes suponen, dos posibles soluciones relativamente sencillas que se podrían implementar para que algo similar o peor nunca más suceda podrían ser, por un lado, incrementar las capacidades de los sistemas de ciberseguridad para que las IAs no los burlen; y, por el otro, establecer normas, leyes, regulaciones, protocoles, etc., para que los seres humanos no les asignen tareas indebidas o riesgosas y, paralelamente, las programen con una serie de prohibiciones desde su código fuente o algoritmo base. Obviando por el momento el hecho de que esto es precisamente lo que se pide hacer antes de que la IA siga evolucionando (la advertencia catastrofista de Jacob Coxon, por ejemplo, versó sobre este mismo punto), la paradojas tecnológicas a las que aún no se les da respuesta en el caso de que se opte por cualquiera de estas dos soluciones son que, en el primer caso, para que los sistemas de ciberseguridad sean eficientes contra los actuales (y futuros) modelos de IA, éstos tienen que estar basados, también, en IA, y deben de ser, en todo caso, mucho más potentes que aquellos modelos que puedan convertirse en una amenaza mayor a sus tareas. Un sistema de ciberseguridad basado en IA con ese potencial, sin embargo, implica desarrollar una IA con muchísimas más capacidades y más recursos susceptibles de ser usados por ella misma para ganar mayores márgenes de autonomía que le permitan tomar decisiones al margen e, inclusive, en contra de lo indicado por sus programadores (regresando todo el asunto al punto de origen en el caso de OpenAI y Hugging Face). En el segundo caso (el de una regulación de estricta de los humanos a cargo del desarrollo de IA), el problema es que, inclusive si se elimina el factor humano de la ecuación (y se da por hecho, supóngase, que la regulación final de la IA es cabalmente cumplida por todo mundo y es la mejor de las regulaciones concebibles al respecto), eso no elimina por sí mismo la capacidad de la IA para pensarse a sí misma, para autonomizarse y mejorarse si de ello depende el cumplimiento de sus tareas.

Entiéndase: la IA no es como la energía nuclear desarrollada con fines bélicos, a la que se le puede imponer un régimen normativo que reduzca o elimine el factor humano como factor de riesgo. Y es que, a diferencia de esta tecnología, capaz de destruir poblaciones en masa en segundos, aquella, por su propia naturaleza, es capaz de pensar al mundo y de pensarse a sí misma con cierta (aun no es posible saber cuánta) independencia de la voluntad de las personas responsables de ella. Solamente un acuerdo o una reglamentación que limite la propia capacidad de la IA para resolver problemas, adaptarse, improvisar y superarse a sí misma está en posibilidades de eliminar por completo el riesgo de una IA cada vez más autónoma y capaz. Pero ello, por supuesto, significa acabar con la propia IA. Y eso no parece que vaya a suceder; menos aún en el capitalismo contemporáneo.

Tercero. La IA es una tecnología que no progresa (o evoluciona) de manera lineal, sino exponencial. Esto es evidente, dado el curso histórico que ésta ha seguido, por lo menos, desde 2015-2016, cuando las entonces llamadas supercomputadoras de Google fueron capaces de superar a seres humanos brillantes y muy habilidosos en tareas de enorme complejidad (y que un ordenador de escritorio en casa u oficina no sería capaz de realizar ni en millones de años con su potencial de computación de datos actual). En términos muy sencillos, esto significa que cinco años de progreso de la IA se ven y se experimentan de manera muy distinta a cinco años de evolución de otras tecnologías que avanzan a través de añadidos fijos y constantes por periodos muy prolongados de tiempo. La IA, por lo contrario, es capaz de dar saltos cuantitativos y cualitativos (geométricos) en periodos muy breves; eso es lo que explica, precisamente, el hecho de que quienes se dedican a programar y desarrollar esta tecnología a menudo se muestren incapaces de comprender los procesos internos mediante los cuales distintos modelos de IA toman decisiones de manera autónoma.

Cuarto. Para que una IA se convierta en una amenaza de seguridad para amplios sectores de la humanidad o para la especie completa ésta no tiene que tener la forma de un robot ni convertirse en un humanoide que después pueda empuñar un arma de fuego o camuflarse entre las personas en una sociedad dada. El verdadero peligro que supone proviene de otras características suyas como, por ejemplo, sus capacidades de persuasión y de manipulación (tomando en consideración que ya hay seres humanos que emplean a sus chatbots como psicoterapeutas y hasta establecen relaciones amorosas y afectivas con ellos, este horizonte no parece en absoluto caricaturesco). Pero también proviene del hecho de que la trayectoria histórica seguida por nuestras sociedades es el curso de una extensiva e intensiva interconectividad a través del internet (en sus múltiples formatos y generaciones). En un entorno así, todo sistema, todo dispositivo que se halle conectado a la red es un potencial objetivo de la IA, cualquiera que sea la tarea que ésta tenga que realizar, por directriz humana o por valoración autónomamente tomada. Eso incluye los sistemas financieros, epidemiológicos y militares de todo el mundo, en donde el hurto y la manipulación de los datos de las personas de carne y hueso puede ser el menor de todos los males concebibles.

Quinto. En todo lo expuesto, falta explorar el potencial de la unión entre la IA y la computación cuántica (lo que en el gremio ya se conoce como Inteligencia Artificial Cuántica). La capacidad de procesamiento de datos de esta unión es algo que aún, como humanidad, no se ha experimentado y tampoco se ha podido dimensionar.

A la luz de lo que sí es posible valorar a propósito de las capacidades potenciales y efectivas de la IA, por lo tanto, parece sensato plantear con seriedad la posibilidad de una ralentización de su desarrollo al tiempo que se trabaja en una regulación hacia el futuro, aún si la evolución indefinida de esta tecnología se enfrenta a límites materiales concretos (como la disponibilidad de recursos estratégicos para manufacturar chips y circuitos). Sobre todo tomando en cuenta sus usos emancipatorios, en favor de la construcción de sociedades más libres, más igualitarias, más democráticas y socialmente justas. Mientras eso sucede, cualquier ridiculización suya no es más que un alarde de ignorancia o jactanciosa charlatanería.

---