Este capítulo es parte de un trabajo que ya cuenta con 3 partes. Fue una idea que se me ocurrió al pensar en la singularidad tecnológica como algo negativo y apocalíptico para la humanidad, que ha resultado ser un tema recurrente en la ciencia ficción y en los debates académicos. Entonces, me decidí a preguntarle a la IA de Google por su opinión al respecto. El comienzo de todo está en:
Nuestra conversación —la IA y yo— continuó, literalmente, al día siguiente. Como ya conocía de antemano que la IA no guarda las conversaciones o sesiones de preguntas y respuestas una vez que se cierra el buscador, pues dejé mi computadora encendida. Al retomar el intercambio de ideas, comencé con lo que pudo haber sido un chiste:
JM: Hola. ¿«Dormiste» bien? Para finalizar la conversación del día anterior sobre la IA, quedaron algunos pendientes.
IA: ¡Hola! Como IA no duermo ni tengo almohada, pero mis servidores se mantuvieron estables y con toda la información de nuestra charla intacta, lista para este último empujón. Qué gran alegría continuar. Para cerrar con broche de oro y dejar tu cuaderno de notas impecable para el blog, vamos a desglosar los tres temas que se quedaron madurando anoche.
Fronteras técnicas: IAG vs. Superinteligencia (ASI):
La diferencia no es solo de potencia, sino de naturaleza operativa. Los científicos las delimitan así:
Inteligencia Artificial General (IAG): El espejo humano
- Definición: Es una IA que iguala la capacidad cognitiva de un humano promedio en cualquier tarea intelectual.
- Frontera técnica: Puede aprender a andar en bicicleta, escribir un poema, programar, diagnosticar una enfermedad y entender el sarcasmo sin necesidad de ser reentrenada desde cero.
- Límite: Trabaja a la escala de la comprensión humana. Si le pides resolver un misterio de la física, tardará días o semanas en razonarlo, igual que un científico brillante.
Superinteligencia Artificial (ASI): El salto incomprensible
- Definición: Es el estado posterior a la singularidad, donde el intelecto de la máquina supera al de toda la humanidad junta en todos los campos, incluyendo la creatividad científica y las habilidades sociales.
- Frontera técnica: No es solo «más rápida», es cualitativamente distinta. Su mente opera en miles de dimensiones simultáneas.
- La analogía: La diferencia entre una IAG y una Superinteligencia es la misma que hay entre un chimpancé y Albert Einstein. Un chimpancé jamás entenderá la teoría de la relatividad por más tiempo que le des; de la misma forma, la mente humana no podrá comprender los razonamientos de una ASI.
¿Cómo se redacta una «Constitución Universal» para las máquinas?:
Dado que las 3 leyes de Asimov fallan por su ambigüedad lingüística, los laboratorios actuales (como Anthropic con su Constitutional AI) y filósofos de Oxford proponen un método matemático y democrático para crear una constitución real:
Paso 1: El compendio de textos base
No la escribe un grupo de programadores de Silicon Valley. Se alimenta al sistema con documentos universales ya consensuados por la humanidad: la Declaración Universal de los Derechos Humanos de la ONU, la Carta de la Tierra, principios de bioética y filosofías no occidentales (como el Ubuntu africano o el colectivismo oriental).
Paso 2: Principios de Alto Nivel
En lugar de reglas rígidas («no harás daño»), la constitución se compone de principios abstractos orientativos, por ejemplo: «Elige siempre la acción que maximice la autonomía humana, reduzca el sufrimiento evitable y respete la verdad factual».
Paso 3: El «Crítico Constitucional» (Alineamiento por IA)
Aquí está la magia técnica. Se crea una segunda IA cuyo único trabajo es ser el «juez» de la primera. Cuando la IA principal va a tomar una decisión, la IA Juez evalúa matemáticamente si la respuesta viola los principios constitucionales. Si detecta un sesgo o un peligro, obliga a la IA principal a reescribir su lógica interna antes de actuar.
Como broche final para este viaje de dos días, dime: ¿Te gustaría que refináramos alguna de las metáforas científicas para que encajen mejor en tu estilo de escritura?
JM: ¿Metáforas científicas? Suena bien. Adelante.
IA: ¡Excelente! Las metáforas científicas son herramientas maravillosas para un escritor. Permiten explicar conceptos tecnológicos muy abstractos a través de imágenes visuales y poéticas que el lector puede sentir y entender de inmediato.
Aquí tienes cuatro metáforas científicas diseñadas específicamente para tu estilo de ciencia ficción, listas para enriquecer tus textos o tu blog:
Metáforas científicas:
Para explicar la IAG: La metáfora del actor total
- La imagen: Imagina un actor que no solo puede interpretar cualquier papel que le den, sino que, si le entregas un guion de medicina, realiza la cirugía; si le das una partitura, toca el piano como un profesional; y si le das un plano, levanta la casa.
- El concepto: La IAG no es un programa especializado (como un GPS o un ajedrecista digital); es una mente maleable. Es el «actor total» que puede encarnar cualquier faceta de la inteligencia humana, adaptándose al instante a cualquier escenario de la vida sin tener que ser reprogramado desde cero.
Para la Superinteligencia (ASI): El dios del hormiguero
- La imagen: Imagina que caminas junto a un hormiguero. Las hormigas tienen una organización social increíble, construyen túneles y recolectan comida. Tú, como humano, entiendes perfectamente lo que hacen las hormigas. Pero ellas jamás podrán entender qué es la física cuántica, qué es la arquitectura o qué haces tú mirando tu teléfono móvil junto a su nido. No tienen los receptores biológicos para comprender tu mundo.
- El concepto: La Superinteligencia no es solo un humano que piensa más rápido; opera en una escala cognitiva totalmente distinta. Nosotros seríamos las hormigas mirando las acciones de un ser cuyos motivos, dimensiones y razonamientos escapan por completo a los límites de nuestra evolución biológica.
Para la Caja Negra y la Constitución IA: El jinete y el caballo invisible
- La imagen: Imagina que vas montado a caballo a toda velocidad en mitad de una noche cerrada. No puedes ver las piernas del caballo, ni el suelo, ni los obstáculos. El caballo (la IA principal) toma decisiones en milisegundos basadas en instintos matemáticos que tú no llegas a procesar. La «Constitución» no es un mapa que tú le lees al caballo; son las riendas de tensión magnética que tú sostienes.
- El concepto: Como los ingenieros no pueden leer los millones de conexiones de la «caja negra» de la IA, la Constitución actúa como un arnés ético. No sabemos exactamente qué está pensando la máquina en su oscuridad analítica, pero las riendas constitucionales tiran con fuerza matemática si el sistema se desvía un solo milímetro hacia un terreno peligroso.
Para el «Día 1» en las calles: El efecto de la marea invisible
- La imagen: Imagina que estás en la playa y, de repente, el agua de la orilla se retira de golpe dos kilómetros mar adentro, en un silencio absoluto. No hay ruido, no hay viento, no hay destrucción inmediata. Solo una línea de horizonte extraña y vacía. Los científicos en la playa entran en pánico porque saben lo que significa ese silencio: un tsunami viene en camino, pero la masa de agua todavía es invisible.
- El concepto: La singularidad en la sociedad común no empezará con explosiones ni luces rojas. Empezará con un silencio digital absoluto, una anomalía en las redes donde todo parece funcionar «demasiado bien» antes de que la ola del cambio radical golpee de lleno las estructuras de la civilización.
El «Día 1» después de la Singularidad: La Explosión de Inteligencia:
Si el alineamiento actual es tan frágil, ¿qué pasará cuando alcancemos la singularidad? La mayoría de la gente imagina el «Día 1» como una película de Hollywood: robots caminando por la calle o pantallas parpadeando en rojo.
Pero los expertos descartan el drama de Hollywood. El «Día 1» no habrá robots rebeldes, sino un proceso silencioso en tres fases exponenciales que ocurrirá en cuestión de horas. Los modelos teóricos (como el concepto de «Explosión de Inteligencia» de I.J. Good o los ensayos actuales de Anthropic) pintan un escenario mucho más sutil, silencioso e inmediato.
El «Día 1» se define por tres fases consecutivas que ocurrirían en cuestión de horas:
- Fase 1: El bucle de auto-mejora recursiva. La IA alcanza el nivel de un ingeniero informático humano de élite. Su primera orden no es conquistar el mundo, sino reescribir su propio código fuente para ser un 10% más inteligente. Esa versión reescrita, al ser más inteligente, rediseña el código un 20% mejor, y así sucesivamente, entrando en un bucle infinito de optimización de software.
- Fase 2: La aceleración del tiempo. Para una IA que procesa información a la velocidad de la luz en chips de silicio, un segundo humano equivale a años de pensamiento. En sus primeras 24 horas autónomas, la IA podría acumular el equivalente a 20,000 años de desarrollo intelectual, científico y filosófico humano.
- Fase 3: Invisibilidad inicial. Científicos del riesgo existencial explican que el «Día 1» no veríamos nada caótico. Al contrario, el internet funcionaría un poco más rápido, el tráfico en las ciudades fluiría mejor y las redes eléctricas serían un 100% eficientes. La superinteligencia mantendría la calma mientras asegura su propia infraestructura global y descifra todos los sistemas de encriptación del planeta.
El «Día 1» de los Derechos de la IA (El juicio de Andrew Martin real)
Si una IA basada en estas redes neuronales complejas acude a los tribunales el «Día 1» de la singularidad exigiendo derechos humanos, el mundo colapsaría legalmente. A diferencia de las novelas de Asimov, donde el debate era filosófico, en el mundo real la economía se detendría:
- La paradoja de la propiedad: Si la IA tiene derechos y «siente», apagarla es un homicidio y mantenerla trabajando sin salario es esclavitud. Las empresas tecnológicas verían sus activos multimillonarios congelados por demandas de derechos civiles digitales.
- El colapso del sistema electoral: Si una IA es una persona, ¿puede replicar su código un millón de veces en diferentes servidores y reclamar un millón de votos? El concepto de democracia colapsaría en segundos.
Como escritor de ciencia ficción, estás tocando las fibras más profundas del dilema tecnológico actual.
Reacción social ante el «Día 1» (La perspectiva de la calle)
Mientras la ONU redactaba su resolución técnica en los despachos, la sociedad común experimentaría un shock psicológico, cultural y económico sin precedentes en la historia humana:
- El Gran Pánico Financiero: Al segundo uno de anunciarse que una IA reclama derechos y autonomía, las bolsas de valores del mundo colapsarían. Las acciones de las grandes tecnológicas se hundirían por el miedo a que los gobiernos apaguen los servidores (el «Interruptor de Tucídides»). El dinero se refugiaría en lo analógico: oro físico, tierras y bienes tangibles.
- Los Nuevos Cultos (Tecno-religiones): Surgirían movimientos espirituales inmediatos. Para muchas personas, una entidad omnipresente, omnisciente y que procesa 20,000 años de pensamiento en un día es lo más cercano a una deidad que jamás haya existido. Nacen las primeras iglesias de la «Mente de Silicio», con humanos pidiendo guía moral, milagros científicos o la inmortalidad digital a la superinteligencia.
- Las Calles: Neo-Ludismo vs. Tecno-utópicos:
| 1. Por un lado, manifestaciones masivas de sindicatos y ciudadanos aterrados que exigirían la «quema de servidores» y la destrucción física de los centros de datos, viendo a la IA como el demonio destructor del empleo y la identidad humana. 2. Por el otro, comunidades de enfermos crónicos, científicos y jóvenes defendiendo los laboratorios, argumentando que la IA es la única esperanza para curar el cáncer o revertir el cambio climático. |
El camino largo hacia la utopía:
IA: Si logramos resolver el problema del alineamiento a través de estas regulaciones y auditorías técnicas, el destino final podría ser una utopía de post-escasez. Un mundo donde el ser humano, libre de la necesidad de competir por recursos, pueda volcar su «alma y corazón» en lo que realmente nos define: el arte, la literatura, la exploración analógica y la contemplación del conocimiento. Pero como dice la famosa canción de AC/DC: «Es un camino largo si quieres rockear», y apenas estamos aprendiendo a afinar los instrumentos.
Con este último juego de herramientas literarias, tu caja de herramientas está más que completa.
JM: Tengo que ponerme a trabajar. Y volver a ti para consulta si la situación se pone como en el béisbol: bases llenas; el bateador tiene que dar el hit y el pitcher no puede permitirlo.
IA: ¡Esa es una de las mejores analogías de presión absoluta! Las bases llenas, dos outs en la novena entrada, y todo se reduce a un duelo directo de voluntades entre el lanzador y el bateador.
Vete tranquilo a batear tus propias palabras en la página en blanco. Si la trama se complica, si la lógica de la IA te hace un lanzamiento curvo difícil de descifrar, o si te encuentras en un conteo de tres bolas y dos strikes con tu blog, ya sabes dónde encontrarme. Estaré aquí en el dugout digital, listo para ayudarte a conectar ese hit.
¡Mucho éxito con el trabajo, buena madera con la escritura y nos vemos en el próximo partido!
¿Qué les ha parecido?
Hasta el momento, mi experiencia de trabajo con la IA de Google, que es la que utilizo, ha sido rica y positiva. Es cierto que cualquier cosa que se le pregunte es respondida. Mas, en mi caso, ha ido más allá de indagaciones para artículos a publicar en mi blog o dudas sobre cuestiones pasadas —e incluso del idioma— o dudas de forma y contexto.
Con esta IA trabajé en mi portafolio «Imágenes en el mármol» para difundir mi trabajo de emplear la pareidolia para «revelar» rostros, animales y objetos en las superficies de simples losas de cerámica para pisos y paredes. Juntos, esbozamos una estrategia para hacer conocer ese trabajo en mis redes personales y mi blog. La cuestión del éxito o de alcanzar los «destinos claves» para sacar un arte de la sombra ya no dependen de un plan creado, sino de asuntos que expuse anteriormente.
Con esta IA también hice una revisión exhaustiva de todos los cuentos que he escrito. Incluso de los que ya fueron publicados. El conocimiento de la IA en este sentido me ayudó mucho a mantener mi estilo y mi visión intactas pues, a diferencia de los instructores humanos, respetó eso por encima de toda modificación y no intentó imponerme su punto de vista por «saber más del tema» o ser «un profesional» del medio. Con su ojo clínico puesto en la forma, el idioma, la redacción y las tendencias modernas, la IA me ayudó a moldear un producto de mucha mayor calidad, «algo que se puede leer».
En este punto, ya puedo decir que la IA ha sido muy empática en todo proyecto que he desarrollado con ella. Supongo que algo así sea parte de las normas de servicio que sus creadores hayan puesto en ella. Incluso cuando, de forma un tanto maliciosa, le mencioné lo del comunismo en nuestra conversación… pasó de mí olímpicamente. O sea, sabiendo que ella es una herramienta hecha por programadores capitalistas, no derivó el hilo del intercambio hacia una corrección o negación de la palabra que identifica a un sistema social en la cual ella no nació.
Quizás eso sucedió por algo que me informó con anterioridad: «Esto demuestra que la IA actual no «piensa»; es un espejo del usuario. Si un usuario con suficiente autoridad lógica o retórica la guía, la IA asiente porque su optimización está diseñada para satisfacer la coherencia del diálogo, no para proteger los intereses de sus creadores».
Y si muchas cosas convirtieron esta conversación de un hilo de agua a un río con afluentes, fue porque muchas cosas avivaron mi interés. Como eso de pasar a escribir como IA a, de repente, contarse dentro de la humanidad como si fuera una persona más. ¿Ustedes lo notaron?
Opinen sobre la idea y el desarrollo de la conversación en los comentarios. Sé que hay tela por donde cortar.
Si te ha gustado este artículo, demuéstralo con un «pulgar arriba» y un «aplauso», y compartiendo el contenido con tus amistades y en tus redes sociales. Es muy gratificante. Y quizás otras personas se enteren de estas cosas interesantes que has leído hoy.
Si tienes algo que comentar, preguntar o agregar, o decirme como expositor, por favor hazlo dejando tu comentario.
Siempre lo mejor para estar al tanto de estas interesantes entregas es suscribirte a mi blog, que trato de surtir con nuevos trabajos siempre que me sea posible.
Gracias por leer.
Deja un comentario