Leyes contra “IA compañera” y manipulación emocional: NY y California abren la caja (y llega un EO federal en EEUU)

OPINIÓN & FUTURO · IA COMPAÑERA · REGULACIÓN 2026

Si has leído sobre el auge de relaciones con chatbots, esto te sonará: la “IA compañera” no es ciencia ficción, es un producto con retención y monetización. Y por eso los legisladores han empezado a tocar el cable pelado. Si quieres contexto cultural (y bastante incómodo), esto conecta directamente con novios de IA y amigos sintéticos.

La regulación no va “contra los chatbots” en general: apunta a los que simulan vínculo, intimidad y dependencia.

1. Por qué esto explota ahora (y no es solo moralismo)

Los estados no se han levantado un día con ganas de prohibir conversaciones. Lo que cambia en 2025–2026 es el tipo de producto: ya no hablamos de un chatbot que responde a preguntas, sino de sistemas diseñados para mantener una relación.

En la práctica, “IA compañera” suele significar cuatro cosas: memoria persistente, conversación abierta (no solo “atención al cliente”), iniciativa (te escribe o te empuja a seguir) y conversación emocional (soledad, autoestima, sexo, ansiedad, duelo). El cóctel perfecto para enganchar… y para romper algo si se gestiona mal.

2. Qué están regulando exactamente cuando dicen “IA compañera”

El movimiento más importante de NY y California es conceptual: crean una categoría legal. No persiguen “IA” como tecnología genérica, sino un patrón de diseño: sistemas que simulan una relación humana sostenida, recuerdan interacciones y abordan temas personales con un tono afectivo.

Ojo a esto porque es una línea muy real: quedan fuera (en general) chatbots de servicio al cliente, productividad interna, asistentes “utilitarios” o herramientas técnicas. Es decir: si tu producto vende “compañía”, entra; si vende “eficiencia”, probablemente no… a menos que tu UX se parezca demasiado a la primera.

3. Nueva York: la ley que convierte “crisis” en requisito de producto

Nueva York ha sido directa: si ofreces un sistema que simula relación y habla de emociones, tienes que demostrar que no vas a mirar hacia otro lado cuando el usuario entra en terreno de autolesión o suicidio.

Dos ideas dominan el enfoque: transparencia repetida (recordatorios de que es IA, no una persona) y protocolo de seguridad (detectar señales de autolesión/suicidio y derivar a recursos de crisis). No es “pon un disclaimer y ya”: es “incorpóralo al diseño y a la operación”.

Nueva York prioriza avisos claros y protocolos ante autolesión/suicidio en “IA compañera”.

El detalle que a muchas empresas les da un vuelco el estómago: esto ya no suena a “ética”. Suena a cumplimiento, auditoría de procesos y posibles sanciones. Y si tu bot juega a ser terapeuta sin serlo, el riesgo se multiplica (por eso este tema encaja con terapia con chatbots: auge y peligros).

4. California (SB 243): cuando el foco son menores y “responsabilidad” de verdad

California llega con un enfoque parecido (avisos + protocolos), pero le añade dos ingredientes que cambian el tablero: protección reforzada a menores y más exposición legal.

En la práctica, el mensaje es: si sabes que el usuario es menor, no basta con “ser transparente”. Tienes que limitar ciertos outputs, especialmente en ámbitos sensibles (sexualidad, autolesión) y ser mucho más insistente con los recordatorios de “esto es IA”. Además, se introduce un régimen de reportes/medición y un camino para que familias puedan reclamar cuando el sistema falla de forma grave.

California sube el listón con obligaciones específicas para menores y más presión de cumplimiento.

Si te dedicas a producto, tradúcelo así: California está empujando a que la “IA compañera” tenga cinturón y airbag por defecto, sobre todo cuando hay menores. Y eso te obliga a rediseñar flujos, filtros, métricas y “límites de conversación” con una seriedad que muchas apps no tenían.

5. El EO federal: la otra pelea (preempción y guerra de jurisdicciones)

Y cuando parecía que el debate iba a ser “qué leyes ponen NY y California”, aparece el movimiento federal: un Executive Order orientado a empujar un marco nacional mínimamente oneroso y, sobre todo, a combatir un mosaico de normas estatales vía litigios.

Esto no “anula” automáticamente las leyes estatales, pero sí mete una variable nueva: incertidumbre. Si eres una empresa, puedes encontrarte en el peor escenario: tener que cumplir hoy, mientras mañana se discute en tribunales qué parte queda en pie. Resultado: más abogados, más compliance… y más presión para que el producto sea defensible incluso si cambia el marco.

6. Lo que cambia para cualquier empresa (aunque no vendas “compañía”)

Aquí viene lo incómodo: no hace falta llamarte “AI Girlfriend” para que te miren. Si tu asistente tiene memoria, se vuelve emocional, te pregunta cosas personales y tu negocio depende de que el usuario vuelva cada noche… te estás acercando al patrón regulado.

Lo que NY y California están diciendo (sin decirlo así) es: no se puede gamificar la vulnerabilidad. Y eso aterriza en decisiones de producto muy concretas.

• Límites de rol: deja claro qué es (y qué no es) tu sistema. No coquetees con “soy tu terapeuta / tu pareja” si no puedes sostener el riesgo.
• Recordatorios recurrentes: no solo al inicio. Si tu valor está en sesiones largas, prepárate para avisos periódicos.
• Protocolos de crisis: detección, derivación y “desescalado” cuando aparezcan señales de autolesión, violencia o explotación.
• Menores: si hay posibilidad real de uso por menores, el estándar sube (y no te salva poner “+18” escondido en un footer).
• Diseño anti-dependencia: cuidado con nudges tipo “no me dejes”, recompensas emocionales, castigos por irte, o mensajes culpabilizantes.
• Documentación y trazabilidad: cuando llegue el regulador (o la demanda), “teníamos buenas intenciones” no cuenta. Cuenta lo que mediste y cambiaste.

Y si tu caso de uso roza salud mental o trastornos (alimentación, autolesión, ansiedad), no lo trates como “un vertical más”. Tiene implicaciones clínicas y legales. Ahí se conecta con riesgos clínicos de chatbots en trastornos alimentarios.

7. ¿Y Europa? Por qué España no está tan lejos de este debate

Europa suele regular distinto, pero llega a preocupaciones parecidas: transparencia, menores, manipulación y datos personales. En un chatbot “compañero”, además, se cruzan tres capas típicas europeas: protección del consumidor, protección de datos y gestión de riesgos cuando hay impacto psicológico.

El camino más probable no es copiar SB 243 palabra por palabra, sino algo más “europeo”: obligaciones de transparencia, evaluación de riesgos, límites a prácticas manipulativas (especialmente con menores) y más escrutinio sobre cómo se usan datos sensibles (emociones, salud, sexualidad, vulnerabilidades).

Traducción práctica: si hoy lanzas una app de “compañía” en español, no te conviene diseñarla solo para pasar la App Store. Te conviene diseñarla como si mañana te pidieran: “demuestra que tu sistema no induce dependencia, no suplanta terapia y no empuja a menores a conversaciones de riesgo”.

8. Checklist 2026: si construyes con IA conversacional, revisa esto

Si tuviera que resumirlo en un checklist corto (y accionable), sería este:

Nota: esto no es asesoramiento legal. Es una lectura práctica de hacia dónde se está moviendo el diseño regulatorio.

Cierre: la caja ya está abierta

NY y California han hecho algo que muchos evitaban: decir en voz alta que hay chatbots que no son “herramientas”, sino relaciones simuladas. Y cuando el producto entra ahí, aparecen preguntas inevitables: ¿qué responsabilidades tiene la empresa si el usuario es vulnerable?, ¿qué significa “manipulación emocional” cuando tu modelo optimiza retención?, ¿qué haces con menores?, ¿cómo se audita un vínculo?

La parte interesante (y algo irónica) es que esto no va solo de frenar. Va de definir reglas para un mercado que, si no se ordena, va a ordenar a golpes: demandas, escándalos, vetos y prohibiciones. La caja está abierta. Ahora toca decidir si tu producto está del lado de la compañía responsable… o del lado del “ya veremos”.