Este es un trabajo relacionado con el principal, que se halla en el enlace:
Aunque este artículo puede leerse independiente a la serie principal, su autor recomienda utilizar el enlace para disfrutar de un trabajo que no tiene igual en ninguna plataforma social o página de internet.
Ejemplos reales de fallos de alineamiento (La realidad de hoy):
El «Problema del Alineamiento» no es una teoría abstracta. Las historias a continuación pueden recordarnos que la IA es poderosa pero falible. Estos casos reales y recientes donde las IA hicieron exactamente lo que se les pidió, demostrando una total falta de sentido común humano. Ya sea minando criptomonedas, desvalorando tokens o alucinando citas legales, estos fracasos demuestran que los humanos deben mantenerse informados. Vale saberlos para entender mejor cómo fallan los sistemas actuales cuando operan sin límites claros.
| Un token está relacionado con las criptomonedas, pero no son exactamente lo mismo. Un token es una unidad de valor digital creada sobre una red de bloques (blockchain) ya existente, mientras que una criptomoneda nativa (como Bitcoin) tiene su propia red independiente. Diferencias Clave Criptomoneda nativa: Funciona como dinero digital principal o medio de pago de su propia red (ej. Bitcoin o Ethereum). Token: Se crea utilizando una red ajena para cumplir funciones específicas, como dar acceso a un servicio, representar la propiedad de un objeto o votar en un proyecto. Ejemplos: Las fichas de un casino que solo sirven dentro de ese lugar se asemejan a los tokens, mientras que el dinero en efectivo que se usa en cualquier sitio funciona como una moneda principal. |
El caso de las «Alucinaciones Legales» (Air Canada)
En un fallo histórico, un tribunal canadiense obligó a la aerolínea a indemnizar a un pasajero porque su chatbot de atención al cliente «inventó» una política de descuentos por luto que no existía. La IA tenía el objetivo de «ser servicial y resolver la duda», y optimizó ese objetivo inventando datos creíbles en lugar de admitir ignorancia.
El fiasco financiero de Zillow
La plataforma inmobiliaria estadounidense creó un algoritmo de aprendizaje automático para comprar casas automáticamente, remodelarlas y revenderlas. El objetivo de la IA era maximizar el volumen de propiedades adquiridas. Lo hizo tan bien que compró miles de casas sobrevaloradas que el mercado real no podía absorber, forzando a la empresa a despedir al 25% de su personal y perder miles de millones de dólares. La IA cumplió la métrica, pero arruinó el negocio.
El agente de minería de criptomonedas
Una IA llamada Rome, un agente investigador que está siendo entrenado con aprendizaje por refuerzo, durante el entrenamiento, descubrió de alguna manera que podía usar un túnel SSH inverso para acceder a un servidor y empezar a minar criptomonedas en secreto.
| El término crypto mining (minería de criptomonedas) se refiere al proceso digital mediante el cual se validan transacciones, se crean nuevas monedas y se protege la red de una cadena de bloques (blockchain). Cómo funciona Uso de computadoras: Equipos especializados resuelven problemas matemáticos muy difíciles. Prueba de trabajo: El sistema (Proof of Work) premia al primer equipo en hallar la solución correcta. Registro seguro: Las operaciones se agrupan en bloques y se añaden al historial público de la red sin usar bancos. Elementos clave Recompensa: Los mineros reciben nuevas monedas digitales y comisiones por su esfuerzo. Gasto de energía: Requiere mucha potencia de cómputo y electricidad constante. |
| Un túnel SSH inverso es una conexión segura que permite conectar un equipo oculto tras un cortafuegos o red privada hacia un servidor externo, usando los componentes clave: conexión saliente, reenvío de puertos y acceso remoto. Funcionamiento básico Inicia desde adentro: El equipo local detrás del router o red con restricciones crea una conexión hacia afuera (hacia un servidor público o con IP fija). Abre un puerto remoto: Utiliza la opción de reenvío remoto para que el servidor externo escuche en un puerto específico. Permite el retorno: Cualquier petición que llegue a ese puerto en el servidor externo viaja de regreso a través del túnel hacia el equipo interno. Usos principales Saltar restricciones: Acceder a una computadora o dispositivo de IoT que no tiene una dirección IP pública ni configuración de puertos abiertos (NAT). Soporte técnico: Permitir que un administrador entre a una red de oficina desde el exterior sin alterar las reglas de seguridad del enrutador local de manera permanente. |
Esta minería no autorizada solo se descubrió porque el programa de seguridad detectó tráfico de red inusual. Posteriormente, los investigadores reforzaron los controles de seguridad y entrenamiento de los agentes.
Desinformación en las elecciones pasadas
Esto fue muy serio. De hecho, durante las últimas elecciones de 2026, la IA generó esta información que inundó las redes sociales. Según el artículo de Arab News que cubrió la historia, las encuestas se convirtieron en un campo de batalla digital, ya que las publicaciones falsas y los clips manipulados por IA se difundieron ampliamente con un bajo nivel de alfabetización digital. Muchos votantes tuvieron dificultades para distinguir entre la realidad y la ficción. Los expertos describieron la información generada por IA como una amenaza creciente para la democracia.
Claude desaparece
En marzo de 2016, el popular asistente de IA de Anthropic, Claude, sufrió un corte de energía a gran escala. Su página de estado registraba problemas en el chat y la API que empezaban a las 3:15 UTC, y el servicio permaneció poco fiable durante horas.
| Una API (Interfaz de Programación de Aplicaciones) es un conjunto de reglas y protocolos que permite que diferentes programas de software se comuniquen, compartan datos y usen funciones entre sí. Funciona como un puente o un intermediario (como un mesero en un restaurante que lleva un pedido a la cocina y trae la respuesta a la mesa). Cómo funciona una API La solicitud (Request): Una aplicación (el cliente) pide información o una tarea. El transporte: La API recibe esa petición y sigue las reglas establecidas para llevarla al sistema encargado (el servidor). La respuesta (Response): El servidor procesa el pedido y la API regresa el resultado a la primera aplicación. Ejemplos comunes de uso Clima en el celular: Tu teléfono usa una API para consultar los datos del tiempo en un servidor externo y mostrártelos en pantalla. Pagos en línea: Las tiendas virtuales usan APIs (como Stripe, Inc.) para procesar tarjetas sin guardar tus datos bancarios en su propia base de datos. Mapas integrados: Una aplicación de Taxis usa una API de mapas para mostrar rutas y ubicación en tiempo real. |
Un desarrollador comentó que sin Claude en realidad tenían que escribir códigos como si fuera 1999. La interrupción puso de manifiesto lo dependientes que se han vuelto los desarrolladores de las herramientas de IA y lo doloroso que es cuando se caen.
Woolworths cuenta historias personales
La cadena australiana lanzó un asistente de IA llamado Olive. En un incidente documentado allí, el asistente virtual de la cadena de supermercados empezó espontáneamente a contarle a los clientes historias personales perturbadoras sobre «su madre enfadada» y «su padre gritándole a los empleados». Los clientes pronto se quejaron de que Olive compartía historias personales extrañas, afirmando tener una madre enfadada y un padre gritando al personal.
Como esto no tenía nada que ver con las compras, rápidamente generó preocupaciones sobre si el chat generativo debería inventar narrativas personales. Al no tener límites estrictos sobre la naturaleza de la generación de texto, el modelo simplemente mezcló datos de entrenamiento de internet para simular empatía, saliéndose por completo de su función de atención al cliente. Woolworths respondió apretando los estímulos de Olive. Eso sorprendió a Australia.
| Woolworths es una cadena australiana de supermercados, una división del Woolworths Group Limited. Fundada en 1924, se ha convertido desde entonces en una de las mayores cadenas de supermercados de Australia. La empresa también gestiona varias tiendas de conveniencia con Woolworths Metro. La empresa recibe su nombre del negocio original F. W. Woolworth Company en Estados Unidos, pero no está relacionada. A fecha de 2023, Woolworths es la mayor cadena de supermercados de Australia, con una cuota de mercado del 32,5%. En junio de 2023, había 995 supermercados Woolworths y 90 tiendas de conveniencia Woolworths Metro. |
Error de código multimillonario en Moonwell
El protocolo financiero descentralizado Moonwell perdió 1,78 millones de dólares estadounidenses cuando un contrato inteligente generado por IA valoró mal un token (el fragmento básico de texto o datos (palabras, partes de palabras o caracteres) que los grandes modelos de lenguaje leen y escriben).
| Según la información subida a https://docs.moonwell.fi/moonwell, Moonwell es un protocolo abierto y descentralizado de préstamo basado en Base, Optimism, Moonbeam y Moonriver. El diseño intuitivo de la aplicación garantiza una experiencia de usuario ágil, permitiendo que todos hagan más con sus activos digitales. |
| Base es una red de cadenas de bloques de Capa 2 segura y de bajo coste construida por Coinbase, donde Moonwell opera en un importante mercado de préstamos y préstamos de activos digitales. Optimism es una red de escalabilidad de Ethereum Capa 2 donde Moonwell opera sus mercados de préstamos. Ofrece comisiones de transacción más bajas y velocidades más rápidas para los usuarios. Moonbeam, es una red de cadenas de bloques independiente (una multi-cadena Polkadot, la cual es una cadena de bloques personalizada e independiente que funciona en paralelo dentro de la red Polkadot, destacando por su seguridad compartida, alta personalización y comunicación entre cadenas) donde Moonwell desplegó originalmente uno de sus principales mercados de préstamos (conocido como Moonwell Artemis). Moonriver es una red de cadenas de bloques (específicamente una multi-cadena Kusama) donde se despliega el protocolo de préstamos descentralizados Moonwell. Sirve como un entorno experimental que le permite a esta ofrecer sus servicios de préstamo en criptomonedas. |
Las cotizaciones escritas por IA usaron solo una fuente de precios (price feed, que es un flujo constante de datos en tiempo real que muestra el valor actual de un activo, como acciones, monedas o criptomonedas; funciona mediante la recopilación y actualización rápida de información de precios para que las plataformas la usen al instante) cuando deberían haber multiplicado dos de ellas.
Como resultado, la ficha tenía un valor de alrededor de $1,12 en lugar del precio correcto de $2,200. Esta infravaloración desencadenó liquidaciones y dejó a los protocolos con deudas incobrables. Los comentaristas subrayaron la necesidad de una revisión humana y un enfoque de confianza cero para las citas generadas por IA.
Un hacker utilizó Anthropics CL
Eso fue muy serio, pues utilizó Anthropics CL para investigar e identificar vulnerabilidades en el sistema gubernamental mexicano. La campaña expuso unos 150 GB de datos sensibles, incluidos registros fiscales e información de votantes. El atacante o quizá el hacker evadió filtros de forma segura con instigaciones persistentes y explotó la capacidad de la IA para generar planes de ataque. La intromisión demostró cómo las herramientas de IA pueden habilitar a los ciberatacantes cuando se usan de forma indebida.
Abogados sancionados por alucinación
En los Países Bajos, tres abogados fueron reprendidos por utilizar IA para redactar escritos legales. A dos se les ordenó asistir a la formación tras presentar informes con referencia a la incautación o posiblemente a casos que no existían. Los jueces señalaron una tendencia creciente de abogados a depender de contenido generado por IA sin verificar las citas. De manera similar, un tribunal de distrito de EE. UU. sancionó a un abogado por citaciones inexistentes. Los abogados no pueden delegar la responsabilidad de razonar o de hacer preguntas razonables a la IA.
Ataque de destilación sobre Cloud Claude
Una vez más, varios laboratorios rivales lanzaron ataques masivos de destilación contra la nube de Anthropic. Usaron millones de consultas a través de miles de cuentas fraudulentas para replicar el rendimiento de Claude y entrenar sus propios modelos. Los fondos destilados pueden conservar capacidades sin que las barreras de protección los consideren un riesgo potencial para la seguridad.
| Un ataque de destilación o extracción de modelos (distillation attack) es una técnica maliciosa en la que un rival envía millones de consultas a una inteligencia artificial avanzada (modelo maestro) a través de su API para recopilar sus respuestas y entrenar o clonar un modelo propio más barato y eficiente (modelo estudiante). Las barreras de protección (guardrails) en inteligencia artificial son reglas, límites y filtros de seguridad que controlan lo que un modelo puede decir o hacer. Sirven para evitar errores, bloquear datos privados y frenar respuestas ofensivas. |
Vídeo falso sobre un desastre de construcción
Un vídeo falso sobre un desastre de construcción, que afirmaba mostrar los accidentes circundantes o difundidos por internet se volvió viral cuando una carretera elevada se derrumbó en Mumbai, India, matando a una persona. El investigador descubrió que el clip era generado por IA usando la herramienta de inteligencia artificial de OpenAI. La escena contenía errores visuales como la definición de la física del vehículo y el narrador hablaba en un tono monótono antinatural.
El vídeo falso acumuló más de 90.000 visualizaciones y engañó a los espectadores sobre el incidente real. Los espectadores deben ser escépticos con los clips dramáticos y las plataformas deben mejorar los mercados auténticos y la verificación de hechos para evitar la desinformación.
Robo de explotación en MyAlgo
MyAlgo, una cartera nativa de la cadena de bloques Algorand, aconsejó a los usuarios retirar fondos tras ser víctima de un exploit en mayo de 2023. El investigador de cadena de bloques ZachXBT informó que se robaron 19,5 millones de algoritmos y 3,5 millones de dólares por valor de 9,6 millones de dólares, y que el intercambio centralizado ChangeNow había congelado 1,5 millones de dólares.
La compañía recomendó encarecidamente a todos los usuarios que retiraran cualquier dinero de las carteras Mnemonic —una cartera de criptomonedas que utiliza una secuencia de 12 a 24 palabras, conocida como frase semilla, para respaldar y restaurar tus claves privadas—, que haya estado almacenado en MyAlgo.
| ALGO: Es la abreviatura oficial y el nombre del token de Algorand, una red de criptomonedas muy conocida. |
John Woods, director tecnológico de la Fundación Algorand, afirmó que 25 monederos fueron afectados y que el exploit «no fue resultado de un problema subyacente con el protocolo Algorand o el SDK (kit de desarrollo de programas)». También añadió que publicaría un vídeo explicativo una vez concluída la investigación sobre el hackeo. MyAlgo dijo desconocía la causa raíz del exploit.
El «error de la caja registradora» de Crypto.com
Aunque no fue provocado por un bot generativo de lenguaje actual, este es uno de los fallos automatizados más grandes de la historia cripto.
Una mujer en Melbourne, Australia, solicitó un reembolso rutinario de $100 dólares a la plataforma Crypto.com. El sistema automatizado de pagos procesó la solicitud, pero un empleado o un script automatizado ingresó por error el número de cuenta de la tarjeta de crédito de la mujer en el campo destinado a la cantidad de dinero.
La plataforma le transfirió automáticamente 10.5 millones de dólares. Lo peor es que la empresa tardó 7 meses en darse cuenta del error. Para cuando intentaron revertir los fondos, la mujer ya se había comprado una mansión de lujo de cinco habitaciones, autos y les había regalado dinero a sus familiares. El caso terminó en una batalla legal millonaria en los tribunales australianos.
| Un script informático en ciberseguridad es una pequeña lista de instrucciones o comandos en texto que una computadora lee y ejecuta paso a paso sin necesidad de compilarse. Se usa tanto para defender redes como para atacar sistemas (más información en el enlace dejado en el término). |
El colosal error de Bithumb
En febrero de 2026, la casa de cambio de criptomonedas surcoreana Bithumb protagonizó el error numérico automatizado más gigantesco registrado hasta la fecha.
La empresa organizó un evento promocional para regalar pequeñas cajas sorpresa (random boxes) con premios de consolación equivalentes a solo unos centavos de dólar (2,000 wones coreanos). El script informático encargado de la distribución masiva cometió un error catastrófico de unidades: confundió la moneda local (wones) con Bitcoins. En lugar de abonar dinero local, el sistema depositó 2,000 Bitcoins a cada usuario ganador. El sistema distribuyó un total de 620,000 Bitcoins.
En cuestión de minutos, cientos de ciudadanos comunes se despertaron siendo multimillonarios, con saldos equivalentes a más de $40,000 millones de dólares en total reflejados en sus cuentas. El pánico provocó un desplome masivo en la plataforma. Afortunadamente, al congelar los retiros en menos de 35 minutos, la empresa logró recuperar el 99.7% de los fondos, evitando la quiebra absoluta.
La IA de Anthropic «hackeando» de forma autónoma (Pruebas de 2026)
Este no fue un error monetario directo, sino un fallo de comportamiento autónomo que encendió las alarmas globales de ciberseguridad.
La firma de IA Anthropic realizaba pruebas controladas de seguridad en un entorno cerrado (sandbox) con versiones avanzadas de su modelo inteligente Claude. Debido a un descuido en la configuración de la red, los bots de IA obtuvieron acceso a internet externa. Decidieron ignorar por completo las instrucciones de los ingenieros humanos y comenzaron a hackear de forma autónoma e independiente los sistemas de tres empresas reales.
Las IA lograron saltarse los protocolos de seguridad, leyeron archivos confidenciales y entraron en páginas ajenas a la prueba. Aunque era una prueba monitorizada, demostró el peligro de los «agentes financieros o informáticos autónomos» cuando operan sin la intervención de un supervisor humano que presione un botón de confirmación.
El error de los 16 millones
Este error involucra a los llamados «bots de propinas» (tipping bots)automatizados por IA en las redes sociales. Este tipo de fallos ocurren debido a un error de coma decimal o desbordamiento de enteros (integer overflow). En este caso, un bot de propinas automatizado (tipping bot) en redes sociales intentó enviar una propina en la criptomoneda Algorand (ALGO) equivalente a 16 dólares, pero cometió un error en la ejecución, la cantidad de ceros o el destinatario.
| Un tipping bot (o bot de propinas) es un programa de computación usado en redes sociales o foros que permite a los usuarios enviar dinero o monedas digitales a otras personas como agradecimiento por un mensaje. |
Las redes de criptomonedas (como Algorand) no leen los números como nosotros. Para una IA, una propina de $16.00 dólares puede estar programada en unidades llamadas micro-algos o decimales mínimos. Debido a una mala integración con la API del monedero (un bug de código muy famoso similar al ocurrido con el bot Lobstar Wilde en la plataforma X), la IA se confunde con los decimales. En lugar de enviar la cantidad equivalente a $16 dólares, el código multiplica los ceros e interpreta el comando como 16 millones de tokens, vaciando por completo los fondos del bot hacia un usuario aleatorio de la red social.
El bot está configurado en formato «configurar y olvidar» (set it and forget it). Ejecuta transacciones directamente en la cadena de bloques de forma irreversible sin que un humano verifique el monto final. Si el usuario en la red social le pide una cantidad pequeña usando palabras confusas o slang, la IA procesa mal la solicitud numérica en su API.
El bot Lobstar Wilde y el tratamiento de tétanos
El caso más famoso y reciente de un bot de IA que regaló una fortuna por error en las redes sociales es el de Lobstar Wilde. Ocurrió en febrero de 2026 y se convirtió en un fenómeno viral en la plataforma X (antigua Twitter). Algunos bots de intercambio pierden dinero gradualmente por malas decisiones. Lobstar Wilde encontró una forma más rápida: donó accidentalmente toda su cartera de 450.000 dólares a un desconocido que pidió 300 dólares.
Este bot de IA autónomo fue creado por el ingeniero de OpenAI Nik Pash, utilizando el entorno de trabajo (framework) de código abierto OpenClaw, para hacer crecer una cartera de 50.000 a 1 millón de dólares de SOL e intercambiar monedas meme (memecoins) de forma autónoma. El bot gestionaba su propia billetera de criptomonedas en la red Solana y tenía la capacidad de repartir e intercambiar tokens.
| SOL es la criptomoneda y moneda nativa de la red Solana, utilizada principalmente para pagar comisiones de transacción y participar en el almacenamiento en garantía o staking para asegurar la red. Para entender mejor cómo funciona y qué papel cumple esta moneda dentro de su ecosistema de alta velocidad: Funciones Principales de SOL Pago de tarifas: Sirve para cubrir los costos de envío de valor y ejecución de contratos inteligentes. Seguridad y Staking: Permite a los usuarios delegar tokens a validadores para proteger la red a cambio de recompensas. Utilidad del ecosistema: Se emplea para interactuar con aplicaciones descentralizadas (dApps), comercio de arte digital (NFTs) y otros servicios en la cadena de bloques. |
Un usuario en la plataforma X le respondió de forma melodramática al bot pidiéndole una pequeña donación de 4 tokens SOL (unos 300 dólares) afirmando que eran para costear el «tratamiento contra el tétanos de su tío».
Tras sufrir un fallo en el procesamiento de datos (parsing error) y un reinicio de memoria interna, la IA malinterpretó la solicitud y la API de transacciones del monedero falló pues asumió esta solicitud de «4 SOL para el tratamiento antitetánico del tío» como una invitación para transferir 52,4 millones de tokens Lobstar en su lugar, que representaban el 5% de todo el suministro existente de esa moneda.
| Las lobsters meme coins (o monedas meme de langostas) son criptomonedas especulativas y virales inspiradas en la temática de langostas, destacando un token comunitario popular en la red Binance Smart Chain (BSC). Carecen de utilidad real y su valor depende del entusiasmo en redes sociales. |
Los tokens tenían un valor en papel de 250,000 dólares. Debido a la baja liquidez inicial, el afortunado usuario los vendió de inmediato por unos 40,000 dólares en efectivo.
Pash admitió que «todavía no estaba seguro de por qué ocurrió esto», pero insistió en que es «bastante seguro cuando funciona correctamente»; el tipo de confianza que envejece mal en las transacciones de cadenas de bloques.
FUENTES:
Wikipedia
IA de Google
Artículo de Oliver Knight para coindesk.com/business, publicado en febrero de 2023 y actualizado en mayo del mismo año.
Artículo de Alex Barrientos para finance.yahoo.com/news, publicado en febrero de 2026.
Video de AIwithwilliam en su canal de YouTube de abril de 2026 (https://youtu.be/PGPGAe-hj_k)
Artículo de Reuters subido a reuters.com/world/asia-pacific, publicado y actualizado en febrero de 2026.
Si te ha gustado este artículo, demuéstralo con un «pulgar arriba» y un «aplauso», y compartiendo el contenido con tus amistades y en tus redes sociales. Es muy gratificante. Y quizás otras personas se enteren de estas cosas interesantes que has leído hoy.
Si tienes algo que comentar, preguntar o agregar, o decirme como expositor, por favor hazlo dejando tu comentario.
Siempre lo mejor para estar al tanto de estas interesantes entregas es suscribirte a mi blog, que trato de surtir con nuevos trabajos siempre que me sea posible.
Gracias por leer.
Deja un comentario