Hace unos meses leí sobre un caso en Estados Unidos donde una empresa había usado un sistema de IA para filtrar candidatos en un proceso de selección. El sistema rechazó automáticamente a varios candidatos que, según analizaron después, habrían sido perfectamente válidos para el puesto. La empresa argumentó que el algoritmo tomó la decisión. Los candidatos rechazados argumentaron que alguien diseñó ese algoritmo y eligió usarlo.
El juicio todavía no ha terminado. Pero la pregunta que plantea ya tiene respuesta en la mayoría de jurisdicciones aunque mucha gente no lo sepa: cuando un sistema de IA causa un daño, la responsabilidad recae en quien lo desplegó, no en quien lo construyó ni en el modelo en sí.
Eso tiene implicaciones prácticas enormes para cualquiera que use IA para tomar decisiones que afectan a otras personas.
Qué significa «forensic» en el contexto de la IA
El término forense aplicado a la IA hace referencia a la capacidad de reconstruir cómo un sistema llegó a un resultado concreto. En términos más simples: si alguien te pregunta por qué la IA tomó esa decisión, ¿puedes explicarlo?
En muchos casos la respuesta honesta es no. Y eso es un problema legal creciente.
Los modelos de lenguaje grandes no son sistemas de reglas explícitas donde puedes rastrear exactamente qué instrucción produjo qué output. Son sistemas probabilísticos donde el mismo input puede producir outputs ligeramente diferentes, y donde el razonamiento interno del modelo no es directamente observable.
Esto crea una situación incómoda: estamos tomando decisiones con consecuencias reales usando sistemas cuyo proceso de decisión no podemos explicar completamente. En sectores como salud, finanzas o recursos humanos, esa falta de explicabilidad ya está siendo cuestionada judicialmente.
Personalmente, esto me parece uno de los problemas más subestimados del uso actual de la IA en entornos profesionales. Se habla mucho de la calidad de los outputs y muy poco de la trazabilidad del proceso que los produjo.
El prompt como documento legal
Una cosa que cambió en mi forma de trabajar cuando empecé a usar IA para proyectos de clientes es que empecé a guardar todos los prompts de forma sistemática, con fecha, versión y el contexto en el que se usaron.
No lo hice por disciplina personal. Lo hice porque en un proyecto me di cuenta de que si algo salía mal y alguien me preguntaba exactamente qué instrucciones le había dado al modelo, no iba a poder responder con precisión. Y esa incapacidad de responder habría sido un problema.
El prompt es, en cierto sentido, el documento de intención. Muestra qué le pediste al sistema que hiciera, con qué información, bajo qué restricciones. Si el output causa un problema, el prompt es la primera pieza de evidencia que alguien va a pedir ver.
Esto es especialmente relevante si construyes herramientas basadas en IA que otros van a usar. Porque entonces no solo eres responsable de tus propios prompts, sino del sistema completo que diseñaste, incluyendo cómo gestiona los inputs de los usuarios y qué tipo de outputs permite generar.
Dónde están los riesgos reales ahora mismo
Hay tres áreas donde veo riesgos legales concretos y crecientes para personas que usan IA de forma profesional.
La primera es la generación de contenido sobre personas reales. Una imagen o un vídeo generado que representa a alguien en un contexto que esa persona nunca autorizó puede constituir varios delitos dependiendo del país: difamación, uso no autorizado de imagen, en casos extremos acoso. El hecho de que lo generara una IA no transfiere la responsabilidad al modelo.
La segunda es el uso de IA para tomar o apoyar decisiones que afectan a terceros. Filtrado de candidatos, scoring de crédito, diagnóstico médico asistido, evaluación de riesgo en seguros. Todas estas aplicaciones tienen marcos regulatorios que están evolucionando rápidamente, y la tendencia es hacia más exigencia de explicabilidad y más responsabilidad para quien despliega el sistema.
La tercera, que afecta a más gente de lo que parece, es la propiedad intelectual en el output. Si generas contenido con IA que resulta ser sustancialmente similar a una obra protegida, la reclamación irá contra ti. El hecho de que no lo hayas copiado conscientemente y de que fuera el modelo quien lo generó no es una defensa suficiente en la mayoría de los marcos legales actuales.
Cómo documentar el trabajo con IA para protegerse
No soy abogado y esto no es asesoramiento legal. Pero sí puedo compartir lo que yo hago y que considero prácticas razonables.
Guardo un registro de los prompts que uso en proyectos profesionales, especialmente cuando el output va a usarse para tomar decisiones o va a publicarse con mi nombre. El registro incluye la fecha, el modelo usado, la versión del modelo si está disponible, y el prompt exacto.
Para proyectos donde el output podría afectar a terceros, añado una capa de revisión humana antes de usar cualquier resultado de forma directa. El modelo puede equivocarse, alucinar, o producir algo técnicamente correcto pero contextualmente problemático. Esa revisión es mi responsabilidad, no del modelo.
Y cuando trabajo con información de clientes, tengo configurados los servicios para que las conversaciones no se usen en entrenamiento, y nunca incluyo datos personales identificables en los prompts si puedo evitarlo.
Son medidas básicas que no eliminan todo el riesgo pero que demuestran diligencia si alguna vez hay que justificar cómo se trabajó.
Lo que viene en regulación y por qué importa estar preparado
El AI Act europeo ya establece categorías de riesgo para sistemas de IA y obligaciones diferentes según la categoría. Los sistemas de alto riesgo, que incluyen aplicaciones en selección de personal, evaluación crediticia y diagnóstico médico entre otros, tienen requisitos de documentación, auditoría y explicabilidad que ya son exigibles.
Para la mayoría de las personas que usan IA de forma profesional pero no en esos sectores específicos, las obligaciones directas son todavía limitadas. Pero la dirección es clara: más transparencia, más trazabilidad, más responsabilidad del usuario final.
Prepararse ahora tiene un coste bajo. Documentar prompts, revisar outputs antes de usarlos en decisiones importantes, leer los términos de los servicios que usas, son hábitos que se construyen fácilmente y que pueden evitar problemas significativos más adelante.
La IA es una herramienta poderosa. Como todas las herramientas poderosas, la responsabilidad de cómo se usa recae en quien la usa. Eso no va a cambiar, y probablemente se va a hacer más explícito en la ley en los próximos años.
