La ética no es filosofía abstracta. Es el conjunto de decisiones que determinan quién sale lastimado y quién queda protegido cuando la tecnología actúa.
En 2018, Amazon reveló que había desarrollado una herramienta de IA para filtrar currículos de candidatos a empleo. El sistema fue entrenado con datos de contrataciones de la empresa de la última década. El problema: la mayoría de esos contratados eran hombres. La IA aprendió a penalizar currículos que contenían la palabra "mujeres" —como en "capitana del equipo de mujeres"— y a rebajar la puntuación de egresadas de universidades femeninas. Amazon desactivó el sistema en 2018 sin haberlo usado en decisiones reales de contratación, pero el experimento expuso una verdad incómoda: los sistemas de IA heredan y amplifican los sesgos presentes en sus datos de entrenamiento.
Los tres marcos clásicos
La ética aplicada a la IA no parte de cero. Se apoya en tres tradiciones filosóficas que llevan siglos siendo debatidas, y que hoy enfrentan pruebas concretas en laboratorios y salas de juntas.
El consecuencialismo evalúa las acciones por sus resultados. Una decisión es correcta si produce el mayor bien para el mayor número de personas. Aplicado a la IA: ¿el sistema de recomendación de Amazon generó más beneficio que daño en términos globales? El consecuencialismo obliga a cuantificar el daño, algo que las empresas tecnológicas suelen evitar.
La ética deontológica de Kant sostiene que ciertas acciones son intrínsecamente incorrectas, independientemente del resultado. Discriminar a candidatas por su género viola un deber fundamental de trato igualitario, aunque la empresa argumentara que el sistema "optimizaba eficiencia".
La ética de la virtud pregunta: ¿qué tipo de organización queremos ser? No solo qué es legal o eficiente, sino qué carácter institucional revelan nuestras decisiones de diseño.
Punto Clave
Ningún marco ético es suficiente por sí solo. Los ingenieros que construyeron la herramienta de Amazon probablemente pensaron que estaban siendo consecuencialistas —optimizando la selección— sin ver que violaban deberes fundamentales y exhibían un carácter institucional discriminatorio.
Ética vs. Cumplimiento Legal
Una confusión frecuente en el sector tecnológico es equiparar "ético" con "legal". El caso de Amazon ilustra la diferencia: la herramienta nunca se usó en decisiones reales, por lo que técnicamente no violó ninguna ley de discriminación laboral vigente. Sin embargo, era éticamente defectuosa desde su diseño.
La legalidad define el mínimo tolerable. La ética define el estándar al que aspira una organización que se toma en serio su impacto en la sociedad. En el contexto de la IA, esta distinción importa enormemente: los sistemas se despliegan rápido, a escala masiva, antes de que la regulación pueda alcanzarlos.
Lo legal cambia lentamente. Lo ético exige anticipación.
Un sistema puede ser legal en un país e ilegal en otro, pero el daño que causa no respeta fronteras.
Las consecuencias de diseños éticamente defectuosos se distribuyen de forma desigual: los más vulnerables pagan el precio más alto.
📝 Quiz · Lección 1
¿Qué es la Ética?
Comprueba tu comprensión de los marcos éticos y el caso Amazon.
Pregunta 1 de 3
¿Por qué Amazon desactivó su herramienta de selección de currículos basada en IA?
✓ Correcto. El sistema heredó el sesgo de género de los datos históricos de contratación de Amazon y penalizaba activamente palabras asociadas a mujeres.
✗ Incorrecto. El problema fue el sesgo de género: el modelo aprendió a desfavorecer candidatas porque la mayoría de contratados históricos eran hombres.
Pregunta 2 de 3
Según la ética deontológica de Kant, ¿cuándo es incorrecta una acción?
✓ Correcto. El deontologismo evalúa las acciones por sí mismas, no por sus consecuencias. Discriminar es incorrecto aunque "optimice" un proceso.
✗ Incorrecto. Esa es la perspectiva consecuencialista. La ética deontológica juzga las acciones por los deberes que respetan o violan, no por sus resultados.
Pregunta 3 de 3
¿Cuál es la diferencia más importante entre legalidad y ética en el contexto de la IA?
✓ Correcto. La legalidad es el suelo mínimo. La ética exige que los diseñadores anticipen daños antes de que la regulación los alcance.
✗ Incorrecto. La herramienta de Amazon nunca violó ninguna ley, pero era éticamente defectuosa. Legalidad y ética son estándares distintos.
🧪 Lab · Lección 1
Laboratorio: Marcos Éticos en Acción
Dialoga con la IA para aplicar los tres marcos éticos a decisiones reales de diseño tecnológico.
¿Cómo funciona este laboratorio?
La IA adoptará el rol de analista de ética tecnológica. Te hará preguntas sobre casos reales y te ayudará a distinguir qué marco ético está en juego en cada decisión.
Sugerencia: Describe una decisión de diseño de IA —real o que hayas leído— y analiza si es ética desde los tres marcos: consecuencialista, deontológico y de la virtud.
🤖 Analista de Ética TecnológicaLab 1
🎯 Avanzado · Lección 2
¿Quién Decide?
Detrás de cada sistema de IA hay una cadena de decisiones humanas. Entender quién las toma —y quién queda excluido— es el primer paso para la responsabilidad real.
En 2019, el sistema de salud de EE.UU. utilizado por Optum (una subsidiaria de UnitedHealth Group) fue examinado en un estudio publicado en la revista Science. Los investigadores encontraron que un algoritmo comercial ampliamente utilizado para identificar pacientes que necesitaban cuidados complejos asignaba puntuaciones significativamente más bajas a pacientes negros que a pacientes blancos con el mismo nivel de enfermedad. La razón: el algoritmo usaba el gasto histórico en salud como proxy de necesidad médica. Como los pacientes negros históricamente habían tenido menos acceso al sistema sanitario —y por tanto habían gastado menos—, el modelo los consideraba "menos enfermos". Optum y los hospitales que usaban el sistema nunca tomaron una decisión explícita de discriminar. Nadie firmó una orden de excluir a personas negras. La decisión se tomó por omisión, al elegir qué variable usar como indicador.
La cadena de decisión invisible
Los sistemas de IA no caen del cielo. Son el resultado de cientos de decisiones concretas: ¿qué datos usar? ¿qué variable optimizar? ¿quién está en la sala cuando se define el objetivo del sistema? Cada una de estas decisiones tiene consecuencias éticas.
En el caso de Optum, la decisión crítica fue elegir "gasto en salud" como proxy de "necesidad médica". Esta elección la tomaron ingenieros de datos, probablemente sin mala intención, porque era la variable más fácil de medir. Pero esa comodidad técnica se convirtió en discriminación sistémica.
Concepto Central
Proxy problemático: Cuando un sistema usa una variable fácilmente medible para representar otra que es difícil de medir, y esa sustitución introduce sesgos históricos en el resultado.
Quién está en la sala importa
La composición de los equipos de diseño determina qué preguntas se hacen —y cuáles no. Cuando los equipos de ingeniería de IA son demográficamente homogéneos, es más probable que pasen por alto impactos que afectan a grupos que no están representados.
Esto no es una afirmación moral vaga. Es un patrón documentado. En 2016, ProPublica publicó su investigación sobre COMPAS, un sistema de evaluación de riesgo de reincidencia criminal usado en tribunales de EE.UU. El análisis mostró que el sistema clasificaba erróneamente a acusados negros como de alto riesgo el doble de veces que a acusados blancos. El equipo que diseñó COMPAS no incluía personas con experiencia directa en el sistema de justicia criminal.
La diversidad en los equipos de diseño no es solo un imperativo de justicia: es una salvaguarda técnica.
Las decisiones por omisión —elegir no incluir una variable, no hacer una prueba, no consultar a comunidades afectadas— tienen consecuencias tan reales como las decisiones explícitas.
La responsabilidad difusa ("nadie decidió discriminar") no es ausencia de responsabilidad. Es responsabilidad compartida mal gestionada.
📝 Quiz · Lección 2
¿Quién Decide?
Evalúa tu comprensión sobre las cadenas de decisión y la responsabilidad en el diseño de IA.
Pregunta 1 de 3
¿Qué variable usó el algoritmo de Optum como proxy de necesidad médica, y cuál fue el problema?
✓ Correcto. El gasto histórico reflejaba desigualdades de acceso previas, no diferencias reales en el nivel de enfermedad.
✗ Incorrecto. El algoritmo usó el gasto histórico en salud como indicador de necesidad, lo que penalizaba a quienes históricamente habían tenido menos acceso al sistema sanitario.
Pregunta 2 de 3
¿Qué encontró ProPublica sobre el sistema COMPAS en 2016?
✓ Correcto. El análisis de ProPublica documentó una disparidad racial sistemática en las predicciones del sistema COMPAS.
✗ Incorrecto. ProPublica encontró que COMPAS clasificaba erróneamente como alto riesgo a acusados negros el doble de veces que a acusados blancos con perfiles similares.
Pregunta 3 de 3
¿Por qué se dice que la "responsabilidad difusa" no equivale a ausencia de responsabilidad?
✓ Correcto. Cuando el daño emerge de muchas decisiones pequeñas sin que nadie lo haya ordenado explícitamente, la responsabilidad es compartida, no inexistente.
✗ Incorrecto. La responsabilidad difusa significa que múltiples actores comparten la responsabilidad por sus decisiones —incluyendo las de no actuar— aunque nadie haya ordenado explícitamente el daño.
🧪 Lab · Lección 2
Laboratorio: La Cadena de Decisión
Explora con la IA quién toma las decisiones en el diseño de sistemas de IA y qué consecuencias tienen esas elecciones.
Objetivo del laboratorio
La IA actuará como consultora de gobernanza tecnológica. Te hará preguntas sobre cómo se toman decisiones en el diseño de sistemas de IA y quién debería estar en esa conversación.
Sugerencia: Piensa en un sistema de IA que conozcas —de tu institución educativa, del sistema de salud, del ámbito laboral— y analiza: ¿quién tomó las decisiones de diseño? ¿Quién quedó fuera de la conversación?
🤖 Consultora de Gobernanza TecnológicaLab 2
🎯 Avanzado · Lección 3
Daño Real, Gente Real
El daño de la IA no es abstracto. Se mide en personas que pierden empleos, libertad, crédito o atención médica porque un algoritmo tomó una decisión equivocada sobre ellas.
Entre 2012 y 2021, el gobierno de los Países Bajos utilizó un sistema automatizado llamado SyRI (Sistema de Indicación de Riesgo) para detectar fraude en prestaciones sociales y beneficios fiscales. El sistema cruzaba datos de más de 17 fuentes gubernamentales para generar puntuaciones de riesgo sobre ciudadanos. No notificaba a las personas que estaban siendo vigiladas ni explicaba por qué las señalaba. En enero de 2020, un tribunal de La Haya declaró el sistema ilegal por violar el derecho a la privacidad del Convenio Europeo de Derechos Humanos. La investigación posterior reveló que el sistema había sido desplegado exclusivamente en barrios de bajos ingresos con alta proporción de inmigrantes. Miles de familias habían sido investigadas sin causa documentada y sin posibilidad de conocer o impugnar los motivos.
Taxonomía del daño algorítmico
Los investigadores de ética de la IA han comenzado a construir taxonomías del daño que los sistemas automatizados pueden causar. No todos los daños son visibles de inmediato, ni todos afectan a las mismas personas con la misma intensidad.
Daño de representación: El sistema refuerza estereotipos o asociaciones degradantes sobre ciertos grupos (ej. resultados de búsqueda de imágenes que asocian ciertos trabajos con ciertos géneros o etnias).
Daño de asignación: El sistema distribuye recursos o oportunidades de forma injusta (ej. el algoritmo de Optum que priorizaba menos atención médica a pacientes negros).
Daño procesal: El proceso mediante el cual el sistema toma decisiones viola derechos fundamentales —como el derecho a conocer los motivos de una decisión que te afecta— incluso si el resultado final fuera correcto.
Daño interpersonal: El sistema facilita el acoso, la vigilancia o el control de personas por parte de otras (ej. herramientas de reconocimiento facial usadas por parejas abusivas).
Daño social: El sistema erosiona la confianza en instituciones, procesos democráticos o la cohesión social.
El problema de la escala
El caso de SyRI en los Países Bajos ilustra algo específico de la IA: los sistemas automatizados pueden causar daño a una escala imposible para los sistemas manuales. Un funcionario humano que actuara con sesgo afectaría a decenas de personas. Un sistema automatizado con el mismo sesgo puede afectar a millones antes de que alguien lo detecte.
La escala también significa que los errores sistemáticos —donde el sistema se equivoca más con ciertos grupos— se convierten en política de facto. No porque alguien lo decidiera, sino porque el sistema se desplegó sin las salvaguardas adecuadas.
Dato Documentado
El tribunal neerlandés que declaró ilegal SyRI en 2020 fue la primera sentencia judicial en Europa que prohibió un sistema gubernamental de IA por violación de derechos humanos. Estableció un precedente que influenció directamente el desarrollo del Reglamento Europeo de Inteligencia Artificial (AI Act), aprobado en 2024.
📝 Quiz · Lección 3
Daño Real, Gente Real
Verifica tu comprensión sobre los tipos de daño algorítmico y el caso SyRI.
Pregunta 1 de 3
¿Cuál fue la razón por la que un tribunal neerlandés declaró ilegal el sistema SyRI en 2020?
✓ Correcto. El tribunal determinó que SyRI violaba el Convenio Europeo de Derechos Humanos al vigilar ciudadanos sin transparencia ni posibilidad de impugnar las decisiones.
✗ Incorrecto. El problema legal fue la violación del derecho a la privacidad: el sistema vigilaba a ciudadanos sin notificarles ni darles posibilidad de conocer o impugnar los motivos.
Pregunta 2 de 3
¿Qué tipo de daño describe mejor la situación en que un sistema distribuye atención médica de forma desigual entre grupos raciales?
✓ Correcto. El daño de asignación ocurre cuando el sistema distribuye recursos u oportunidades de forma injusta entre grupos.
✗ Incorrecto. Cuando un sistema distribuye recursos de forma desigual —como atención médica— entre grupos, estamos ante un daño de asignación.
Pregunta 3 de 3
¿Por qué la escala de los sistemas de IA hace que sus errores sean especialmente peligrosos?
✓ Correcto. La escala masiva convierte los sesgos en política efectiva aunque nadie lo decidiera explícitamente, y el daño se acumula antes de que sea visible.
✗ Incorrecto. El problema de la escala es que un sesgo sistemático puede afectar a millones antes de ser detectado, sin que nadie haya ordenado explícitamente ese daño.
🧪 Lab · Lección 3
Laboratorio: Mapear el Daño
Trabaja con la IA para identificar y clasificar tipos de daño en casos reales de sistemas algorítmicos.
Objetivo del laboratorio
La IA actuará como investigadora de daños algorítmicos. Te presentará casos y te pedirá que identifiques qué tipo de daño está ocurriendo y quién lo sufre.
Sugerencia: Busca en tu memoria un caso de IA que haya causado controversia —en medios, en redes sociales, en tu entorno— y clasifica el daño usando la taxonomía de la lección: representación, asignación, procesal, interpersonal o social.
🤖 Investigadora de Daños AlgorítmicosLab 3
🎯 Avanzado · Lección 4
El Dilema del Tranvía, Edición IA
Los vehículos autónomos convirtieron un experimento mental filosófico en un problema de ingeniería urgente. Las decisiones que se programan hoy determinan quién vive mañana.
En mayo de 2016, un Tesla Model S conduciendo en modo Autopilot en Florida colisionó con un camión que cruzaba la autopista. El sistema de IA no detectó la carrocería blanca del camión contra el cielo brillante. Joshua Brown, de 40 años, murió. Era la primera muerte documentada en el mundo en un accidente con un vehículo semi-autónomo activo. La investigación de la NHTSA (Agencia Nacional de Seguridad del Tráfico de EE.UU.) determinó que el sistema Autopilot no estaba diseñado para ese escenario específico y que el conductor no estaba prestando atención —contrario a las instrucciones del fabricante. El caso abrió un debate que la industria no había querido afrontar: ¿quién es responsable cuando una IA toma una decisión que resulta fatal?
El problema de la responsabilidad en colisiones inevitables
El dilema del tranvía original, formulado por la filósofa Philippa Foot en 1967, pregunta: si puedes desviar un tranvía que va a matar a cinco personas para que solo mate a una, ¿deberías hacerlo? Es un experimento para explorar tensiones entre consecuencialismo (salva más vidas) y deontología (no uses a una persona como medio).
Los vehículos autónomos convirtieron este problema teórico en código ejecutable. El MIT Media Lab lanzó en 2016 el proyecto "Moral Machine", que recopiló 40 millones de decisiones de personas en 233 países sobre escenarios de colisión inevitables en vehículos autónomos. Los resultados mostraron diferencias culturales significativas: las sociedades más individualistas tendían a priorizar a los pasajeros; las más colectivistas, a los peatones.
Pregunta Sin Respuesta Fácil
¿Es ético que una empresa —por ejemplo, Volkswagen o Mercedes-Benz— decida unilateralmente, en el código de sus vehículos, cómo se va a tomar una decisión de vida o muerte en un accidente inevitable? ¿Debería esa decisión ser pública, regulada, o individualmente personalizable por el comprador?
De la filosofía al código: consecuencias reales
El debate sobre vehículos autónomos reveló algo más amplio: cada vez que programamos un sistema de IA que toma decisiones en situaciones de alta incertidumbre, estamos codificando valores éticos. Esos valores no son neutrales. Reflejan las prioridades de quien diseña el sistema, el contexto cultural en que se desarrolla, y las presiones comerciales del fabricante.
En 2019, la empresa Waymo (subsidiaria de Alphabet/Google) publicó un informe explicando sus principios de seguridad para vehículos autónomos. No incluía una política explícita sobre escenarios de "colisión inevitable". Mercedes-Benz, por su parte, declaró públicamente en 2016 que sus vehículos autónomos priorizarían la vida del conductor frente a la de los peatones. La declaración generó una tormenta de críticas éticas y fue posteriormente matizada por la empresa.
Las decisiones éticas codificadas en IA no son menos éticas por ser algoritmos. Son decisiones humanas externalizada a máquinas.
La transparencia sobre qué valores están codificados es un requisito ético mínimo, no un lujo.
No todas las decisiones de IA tienen que resolver dilemas del tranvía. Muchas pueden diseñarse para evitar llegar a ese punto.
📝 Quiz · Lección 4
El Dilema del Tranvía, Edición IA
Examina tu comprensión sobre dilemas éticos en vehículos autónomos y decisiones codificadas.
Pregunta 1 de 3
¿Qué reveló el proyecto "Moral Machine" del MIT sobre las preferencias éticas en accidentes de vehículos autónomos?
✓ Correcto. El estudio documentó variaciones culturales sustanciales en las preferencias éticas, lo que complica enormemente la idea de programar una solución universal.
✗ Incorrecto. El proyecto Moral Machine encontró diferencias culturales significativas en las preferencias: no hay una respuesta universal a estos dilemas.
Pregunta 2 de 3
¿Cuál fue la posición pública de Mercedes-Benz sobre prioridades en accidentes inevitables con vehículos autónomos en 2016?
✓ Correcto. La declaración de Mercedes generó una tormenta de críticas éticas porque hacía explícita una jerarquía de vidas que muchos consideraban inaceptable.
✗ Incorrecto. Mercedes-Benz declaró que priorizaría al conductor sobre los peatones, lo que generó una ola de críticas éticas y la empresa luego matizó su posición.
Pregunta 3 de 3
¿Qué implicación ética fundamental tiene el hecho de que las decisiones de colisión se programen en el código de los vehículos autónomos?
✓ Correcto. La codificación privada de jerarquías de vida es una decisión ética y política de enorme trascendencia que no debería tomarse sin participación pública y regulación.
✗ Incorrecto. La implicación central es que empresas privadas están tomando decisiones sobre qué vidas priorizar —sin transparencia pública ni regulación— lo cual es éticamente problemático.
🧪 Lab · Lección 4
Laboratorio: Decisiones Codificadas
Explora con la IA qué valores éticos deberían —o no deberían— programarse en sistemas que toman decisiones de alto riesgo.
Objetivo del laboratorio
La IA actuará como filósofa de la tecnología especializada en dilemas de decisión automatizada. Te hará preguntas sobre cómo codificar valores éticos en sistemas de IA de alto riesgo.
Sugerencia: Imagina que eres parte del equipo de diseño ético de una empresa de vehículos autónomos. ¿Qué principios guiarían tus decisiones? ¿Quién debería participar en ese proceso?
🤖 Filósofa de Tecnología y DecisiónLab 4
🎯 Avanzado · Lección 5
La Justicia No Es Simple
Hay al menos seis definiciones matemáticas distintas e incompatibles de "justicia algorítmica". Elegir una significa rechazar las otras. No es un problema técnico. Es político.
En 2016, la investigación de ProPublica sobre el sistema COMPAS —usado por tribunales de EE.UU. para predecir la probabilidad de reincidencia criminal— desencadenó un debate académico que aún no tiene resolución. ProPublica demostró que el sistema producía el doble de falsos positivos para acusados negros (los clasifica como alto riesgo cuando no reincidirán) que para acusados blancos. Northpointe, la empresa creadora, respondió con datos propios mostrando que el sistema tenía la misma precisión predictiva (calibración) para ambos grupos. Ambos análisis eran matemáticamente correctos. El problema es que estas dos definiciones de "justicia" son matemáticamente incompatibles cuando las tasas de base entre grupos son distintas. No es posible satisfacerlas simultáneamente. Un estudio de 2016 en la revista Science demostró formalmente esta incompatibilidad. Elegir una definición de justicia es una decisión política que beneficia a unos y perjudica a otros.
Las definiciones incompatibles de justicia algorítmica
Los investigadores han identificado al menos seis definiciones matemáticas formales de "justicia" en sistemas de clasificación. Las más relevantes para el debate de COMPAS son:
Paridad demográfica: El sistema aprueba (o clasifica como bajo riesgo) el mismo porcentaje de individuos en cada grupo, independientemente del resultado real.
Igualdad de oportunidades: El sistema tiene la misma tasa de verdaderos positivos en todos los grupos (quien merece pasar, pasa con igual probabilidad en todos los grupos).
Calibración: Cuando el sistema dice "70% de probabilidad de reincidencia", eso es igualmente preciso para todos los grupos.
Paridad de error: El sistema comete el mismo tipo y proporción de errores (falsos positivos y falsos negativos) en todos los grupos.
La Imposibilidad Matemática
Cuando las tasas de base de un resultado difieren entre grupos (como ocurre con la reincidencia en un sistema de justicia que históricamente discrimina), es matemáticamente imposible satisfacer simultáneamente calibración y paridad de error. Elegir una definición de justicia excluye la otra. Este no es un problema que la IA pueda resolver: es una elección de valores.
Por qué importa saber esto
Cuando una empresa o un gobierno dice que su sistema de IA es "justo", la pregunta inmediata debe ser: ¿justo según qué definición? ¿Quién eligió esa definición? ¿Qué grupos quedan perjudicados por esa elección?
La incompatibilidad matemática de las definiciones de justicia no es un fallo que la investigación futura resolverá. Es una característica estructural del problema. Significa que la justicia algorítmica siempre implica compromisos (trade-offs) que tienen que hacerse explícitos, debatirse públicamente y decidirse con participación de los afectados.
📝 Quiz · Lección 5
La Justicia No Es Simple
Verifica tu comprensión sobre las definiciones incompatibles de justicia algorítmica.
Pregunta 1 de 3
¿Cuál era el argumento de Northpointe para defender que COMPAS era "justo"?
✓ Correcto. Northpointe argumentó que cuando el sistema decía "70% de probabilidad", ese porcentaje era igualmente preciso para todos los grupos —una definición distinta de justicia.
✗ Incorrecto. Northpointe argumentó que la calibración del sistema —la precisión de sus predicciones— era igual para todos los grupos, aunque los tipos de error fueran distintos.
Pregunta 2 de 3
¿Por qué es matemáticamente imposible que un sistema sea simultáneamente calibrado y tenga paridad de error cuando las tasas base difieren entre grupos?
✓ Correcto. Este es el teorema de imposibilidad demostrado en 2016: cuando los grupos tienen tasas de base distintas, las definiciones de justicia son matemáticamente incompatibles.
✗ Incorrecto. La incompatibilidad es matemática y estructural: cuando los grupos tienen tasas de base distintas, satisfacer calibración y paridad de error simultáneamente es imposible por las propias restricciones de la probabilidad.
Pregunta 3 de 3
Cuando una empresa dice que su sistema de IA es "justo", ¿cuál es la pregunta más importante que deberíamos hacer?
✓ Correcto. "Justo" no tiene un único significado técnico. Es una elección política que implica compromisos que deben ser explícitos y debatirse públicamente.
✗ Incorrecto. La pregunta crítica es: ¿qué definición de justicia se eligió? Hay múltiples definiciones incompatibles, y elegir una es una decisión política que afecta de forma distinta a diferentes grupos.
🧪 Lab · Lección 5
Laboratorio: Definir la Justicia
Trabaja con la IA para explorar las tensiones entre distintas definiciones de justicia algorítmica en contextos reales.
Objetivo del laboratorio
La IA actuará como auditora de justicia algorítmica. Te presentará escenarios reales y te pedirá que decidas qué definición de justicia priorizarías —y que justifiques por qué.
Sugerencia: Elige un contexto —acceso a crédito bancario, selección universitaria, predicción de riesgo médico— y explica qué definición de justicia te parece más apropiada y por qué crees que otras definiciones quedarían sacrificadas.
🤖 Auditora de Justicia AlgorítmicaLab 5
🎯 Avanzado · Lección 6
Consentimiento, Autonomía y la IA
El consentimiento informado fue el principio que transformó la medicina en el siglo XX. La IA del siglo XXI lo está erosionando sistemáticamente, y las consecuencias son comparables.
En 2014, investigadores de Facebook publicaron en la revista PNAS (Proceedings of the National Academy of Sciences) un estudio titulado "Contagio emocional a través de redes sociales". Durante una semana en enero de 2012, la empresa había manipulado el News Feed de 689,003 usuarios sin su conocimiento: a algunos les mostraba más contenido positivo, a otros más contenido negativo. Los datos confirmaron que el estado emocional de los usuarios se veía influenciado por el contenido que la plataforma seleccionaba. El escándalo fue doble: el experimento en sí, y el hecho de que Facebook argumentó que los usuarios habían consentido al aceptar los términos de servicio. La Asociación Americana de Psicología y múltiples comités de ética universitarios cuestionaron que aceptar términos de servicio equivaliera a consentimiento informado para participar en un experimento de manipulación emocional.
Qué es el consentimiento informado y por qué la IA lo desafía
El consentimiento informado, establecido como principio médico fundamental en la Declaración de Helsinki (1964), requiere que una persona entienda qué se le está haciendo, cuáles son los riesgos y beneficios, y que pueda negarse libremente sin consecuencias negativas. Los tres elementos son necesarios: información, comprensión, y libertad de rechazo.
Los sistemas de IA desafían cada uno de estos elementos. Los términos de servicio que "consienten" el uso de datos no pueden ser comprendidos en detalle por usuarios ordinarios (algunos superan las 80,000 palabras). El rechazo tiene consecuencias reales: si no aceptas las condiciones de Google o Facebook, pierdes acceso a servicios que son prácticamente infraestructura social. Y la información sobre cómo se usarán los datos es frecuentemente vaga o incompleta.
Dato Relevante
En 2018, la Unión Europea implementó el RGPD (Reglamento General de Protección de Datos), que incluye el derecho a no ser objeto de decisiones automatizadas significativas, el derecho a la portabilidad de datos y el derecho al olvido. En 2024, el AI Act amplió estas protecciones específicamente a sistemas de IA de alto riesgo.
Autonomía y sistemas de recomendación
Más allá del consentimiento, la IA plantea una amenaza a la autonomía en un sentido más profundo: la capacidad de tomar decisiones genuinamente propias. Los sistemas de recomendación de YouTube, Spotify, Netflix, o los algoritmos de TikTok están diseñados para maximizar el tiempo de atención. Para hacerlo, aprenden las preferencias del usuario y las refuerzan, creando cámaras de eco y burbujas de filtro que reducen la exposición a perspectivas diversas.
Esto no es solo una molestia. En 2021, Frances Haugen, exempleada de Facebook, presentó ante el Congreso de EE.UU. documentos internos mostrando que la empresa sabía que el algoritmo de Instagram promovía imágenes de cuerpos idealizados a adolescentes con tendencias a la anorexia, y que era consciente de que su plataforma amplificaba contenido divisivo y desinformación porque generaba más interacción.
Optimizar para el engagement no es lo mismo que optimizar para el bienestar del usuario.
Un sistema que reduce la exposición a perspectivas diversas afecta la capacidad de tomar decisiones autónomas e informadas.
El diseño "adictivo" no es un accidente: es una consecuencia de optimizar la métrica equivocada a escala.
📝 Quiz · Lección 6
Consentimiento, Autonomía y la IA
Verifica tu comprensión sobre el consentimiento informado y la autonomía en sistemas de IA.
Pregunta 1 de 3
¿Cuál fue la justificación de Facebook para el experimento de contagio emocional de 2012?
✓ Correcto. Facebook argumentó que los términos de servicio equivalían a consentimiento, argumento que la comunidad científica cuestionó ampliamente por no cumplir con los estándares de consentimiento informado.
✗ Incorrecto. Facebook argumentó que la aceptación de los términos de servicio equivalía a consentimiento. Este argumento fue ampliamente cuestionado porque los términos de servicio no cumplen los estándares del consentimiento informado.
Pregunta 2 de 3
¿Qué reveló Frances Haugen en su testimonio ante el Congreso de EE.UU. en 2021?
✓ Correcto. Haugen presentó documentos internos que demostraban que Facebook conocía el daño que causaba y eligió no actuar para proteger sus métricas de negocio.
✗ Incorrecto. Haugen presentó documentos que demostraban que Facebook era consciente del daño de sus algoritmos —incluyendo efectos negativos en adolescentes— pero priorizó el engagement y el crecimiento sobre la seguridad de los usuarios.
Pregunta 3 de 3
¿Cuáles son los tres elementos necesarios del consentimiento informado establecidos en la Declaración de Helsinki?
✓ Correcto. Los tres elementos son necesarios: la información sin comprensión no es consentimiento real, y el "consentimiento" sin posibilidad de rechazo libre tampoco lo es.
✗ Incorrecto. El consentimiento informado requiere: información completa sobre lo que se va a hacer, comprensión real de esa información, y libertad genuina para rechazar sin sufrir consecuencias negativas.
🧪 Lab · Lección 6
Laboratorio: Consentimiento Real
Explora con la IA qué significaría un consentimiento genuinamente informado en el contexto de servicios digitales y sistemas de IA.
Objetivo del laboratorio
La IA actuará como experta en bioética digital. Te hará preguntas sobre cómo diseñar mecanismos de consentimiento que sean genuinos —no solo legalmente defensibles— en el contexto de plataformas de IA.
Sugerencia: Piensa en la última app o plataforma cuyos términos de servicio "aceptaste". ¿Cumplían los tres criterios del consentimiento informado? ¿Qué haría falta cambiar para que sí los cumplieran?
🤖 Experta en Bioética DigitalLab 6
🎯 Avanzado · Lección 7
Denuncias y Responsabilidad
Cuando los canales internos fallan, algunos empleados eligen arriesgarlo todo para que el público sepa lo que las organizaciones ocultan. Esto tiene consecuencias reales para ellos, y para todos los demás.
En octubre de 2021, Frances Haugen —exgerente de producto de Facebook— filtró miles de documentos internos al Wall Street Journal y luego testificó ante el Senado de EE.UU. Los documentos, conocidos como los "Facebook Papers", mostraban que la compañía sabía que Instagram era perjudicial para la salud mental de adolescentes, especialmente niñas; que sus algoritmos amplificaban desinformación y discurso de odio porque generaban más "engagement"; y que la empresa había suprimido investigaciones internas que documentaban estos efectos. Haugen había registrado previamente sus denuncias ante la SEC (Comisión de Bolsa y Valores) antes de hacer la filtración pública. Actuó amparada por las leyes de protección a denunciantes (whistleblower protection) de EE.UU. Su caso generó investigaciones regulatorias en múltiples países y una oleada de legislación sobre transparencia de algoritmos.
El dilema del denunciante
Los denunciantes (whistleblowers) ocupan una posición éticamente compleja. Por un lado, actúan en nombre del interés público cuando los mecanismos internos de rendición de cuentas han fallado. Por otro, violan deberes de confidencialidad y lealtad a sus empleadores, y asumen costes personales enormes: despido, litigios, exposición pública, y en algunos sistemas jurídicos, consecuencias penales.
El caso de Haugen fue relativamente favorable para ella, en parte porque registró sus denuncias en canales legales antes de hacer la filtración pública. Pero no todos los denunciantes tienen esa posibilidad. Edward Snowden, que filtró documentos de la NSA sobre vigilancia masiva en 2013, vive en exilio. Chelsea Manning fue condenada a 35 años de prisión (aunque fue perdonada parcialmente).
Marco Ético
La teoría ética identifica dos condiciones para que una denuncia sea éticamente justificable: (1) que el daño que se evita sea grave y real, y (2) que se hayan agotado los canales internos disponibles. En la práctica, estos criterios son difíciles de verificar desde fuera.
Responsabilidad institucional vs. responsabilidad individual
El caso de los Facebook Papers también plantea una pregunta sobre la estructura de la responsabilidad. Facebook como institución tomó decisiones que priorizaban el crecimiento sobre la seguridad. Pero esas decisiones las tomaron personas concretas: ejecutivos, ingenieros, gerentes de producto. ¿Quién es responsable?
En 2023, la FTC (Comisión Federal de Comercio) de EE.UU. propuso prohibir a Meta monetizar los datos de menores de edad. La Unión Europea multó a Meta con 1.200 millones de euros por transferir datos de ciudadanos europeos a servidores en EE.UU. sin las garantías adecuadas. Pero ningún ejecutivo individual enfrentó cargos penales. Este patrón —sanciones institucionales sin responsabilidad individual— es frecuente en el sector tecnológico y es en sí mismo un problema ético.
Las sanciones a empresas se pagan con fondos de accionistas, no afectan directamente a quienes tomaron las decisiones.
La ausencia de responsabilidad individual reduce el incentivo para que los ejecutivos prioricen la ética sobre el crecimiento.
Los sistemas de protección a denunciantes son desiguales globalmente: en muchos países no existen o son ineficaces.
📝 Quiz · Lección 7
Denuncias y Responsabilidad
Verifica tu comprensión sobre el whistleblowing y la responsabilidad en el sector tecnológico.
Pregunta 1 de 3
¿Qué paso tomó Frances Haugen antes de filtrar documentos de Facebook públicamente?
✓ Correcto. Haugen siguió los canales legales disponibles primero, lo que le dio protección como denunciante bajo la legislación estadounidense.
✗ Incorrecto. Haugen registró sus denuncias ante la SEC antes de la filtración pública, lo que le proporcionó protección legal como denunciante bajo las leyes estadounidenses.
Pregunta 2 de 3
¿Cuál es el problema ético central de que las sanciones por daños de IA recaigan sobre empresas pero no sobre individuos?
✓ Correcto. Cuando la responsabilidad es puramente institucional, los ejecutivos que tomaron decisiones dañinas no enfrentan consecuencias personales, lo que mantiene intactos sus incentivos para volver a tomar esas decisiones.
✗ Incorrecto. El problema ético central es que las multas a empresas las pagan los accionistas, no los ejecutivos que tomaron las decisiones. Sin responsabilidad individual, los incentivos para priorizar la ética sobre el crecimiento permanecen inalterados.
Pregunta 3 de 3
¿Cuáles son las dos condiciones éticas que justifican una denuncia pública según la teoría ética aplicada?
✓ Correcto. Estas dos condiciones —gravedad del daño y agotamiento de canales internos— son los criterios éticos básicos para justificar una denuncia pública, aunque en la práctica son difíciles de verificar desde fuera.
✗ Incorrecto. La teoría ética establece que una denuncia es justificable cuando: (1) el daño prevenido es grave y real, y (2) se han agotado los canales internos de corrección disponibles.
🧪 Lab · Lección 7
Laboratorio: El Dilema del Denunciante
Analiza con la IA los dilemas éticos de quien decide revelar información sobre daños que una organización oculta.
Objetivo del laboratorio
La IA actuará como especialista en ética organizacional. Te hará preguntas sobre los dilemas de quienes descubren prácticas dañinas dentro de organizaciones tecnológicas y deben decidir cómo actuar.
Sugerencia: Imagina que trabajas en una empresa de IA y descubres que su sistema de evaluación crediticia discrimina a solicitantes de barrios de bajos ingresos. Los canales internos no han respondido. ¿Qué harías? ¿Qué consideraciones éticas pesarías?
🤖 Especialista en Ética OrganizacionalLab 7
🎯 Avanzado · Lección 8
Construir IA Ética
La ética de la IA no termina con la denuncia del daño. Hay organizaciones, marcos regulatorios e ingenieras que están construyendo alternativas concretas. Esto es lo que saben.
En 2018, Google anunció el proyecto Maven: un contrato con el Departamento de Defensa de EE.UU. para desarrollar IA que analizaba imágenes de drones militares para identificar objetos y personas. En mayo de 2018, más de 4,000 empleados de Google firmaron una carta abierta a la dirección de la empresa exigiendo que Google no renovara el contrato y que publicara una política clara sobre aplicaciones militares y de vigilancia. Doce empleados renunciaron en protesta. Google no renovó el contrato Maven en 2019. Ese mismo año publicó sus "Principios de IA", un documento que comprometía a la empresa a no desarrollar IA para armas, vigilancia que viola normas internacionales, ni tecnologías que causen daño general. El caso mostró que la presión interna organizada puede cambiar decisiones corporativas, y que las empresas tecnológicas necesitan marcos éticos explícitos antes de comenzar proyectos —no después de que generen controversia.
Marcos institucionales para la IA ética
Desde 2016, múltiples organizaciones han desarrollado marcos formales para guiar el desarrollo ético de la IA. Ninguno es perfecto. Todos representan un avance respecto a la ausencia de principios.
Principios de IA de Google (2018): Compromiso de no desarrollar IA para aplicaciones militares ofensivas, armas, o vigilancia que viole normas internacionales. Incluye un proceso de revisión ética para nuevos proyectos.
Reglamento Europeo de IA —AI Act— (2024): El primer marco legal vinculante del mundo sobre IA. Clasifica sistemas según su nivel de riesgo (inaceptable, alto, limitado, mínimo) y establece requisitos obligatorios de transparencia, supervisión humana y evaluación de conformidad.
NIST AI Risk Management Framework (2023): Marco del Instituto Nacional de Estándares y Tecnología de EE.UU. para gestionar riesgos de IA en organizaciones públicas y privadas. Incluye cuatro funciones: Gobernar, Mapear, Medir, Gestionar.
Partnership on AI (2016): Coalición de empresas tecnológicas y organizaciones de la sociedad civil para desarrollar mejores prácticas en IA responsable.
Herramientas técnicas para la ética
La ética no es solo declaraciones de principios. Hay herramientas técnicas concretas que los equipos de ingeniería pueden usar para detectar y mitigar sesgos antes de desplegar sistemas.
IBM desarrolló AI Fairness 360, un conjunto de herramientas de código abierto con más de 70 métricas de justicia y 10 algoritmos de mitigación de sesgos. Google publicó el What-If Tool para visualizar el comportamiento de modelos bajo diferentes condiciones y datos hipotéticos. Microsoft incorporó herramientas de interpretabilidad en Azure ML, y Hugging Face desarrolló sistemas de tarjetas de modelo que documentan limitaciones, sesgos conocidos y usos recomendados de los modelos de lenguaje.
Lección Central del Módulo
Construir IA ética no es un problema filosófico que espera solución. Es un trabajo continuo, técnico, político y social que requiere marcos claros, herramientas concretas, participación de los afectados, y estructuras de responsabilidad que funcionen cuando los sistemas fallan. El punto de partida es siempre el mismo: preguntarse quién podría resultar dañado, y diseñar para que eso no ocurra.
📝 Quiz · Lección 8
Construir IA Ética
Verifica tu comprensión sobre marcos institucionales y herramientas técnicas para la IA responsable.
Pregunta 1 de 3
¿Cuál fue el resultado concreto de la carta firmada por más de 4,000 empleados de Google en 2018 sobre el proyecto Maven?
✓ Correcto. La presión interna organizada cambió la decisión corporativa y precipitó la publicación de un marco ético formal por parte de Google.
✗ Incorrecto. Google no renovó el contrato Maven en 2019 y ese mismo año publicó sus Principios de IA, en parte como respuesta a la presión interna de sus empleados.
Pregunta 2 de 3
¿Qué hace que el Reglamento Europeo de IA (AI Act, 2024) sea históricamente significativo?
✓ Correcto. El AI Act es el primer marco regulatorio vinculante del mundo, clasificando sistemas de IA por nivel de riesgo y estableciendo requisitos obligatorios diferenciados.
✗ Incorrecto. El AI Act es históricamente significativo porque es el primer marco legal vinculante del mundo sobre IA, que clasifica sistemas por nivel de riesgo y establece requisitos obligatorios de transparencia y supervisión humana.
Pregunta 3 de 3
¿Qué son las "tarjetas de modelo" desarrolladas por Hugging Face y otros, y por qué son una herramienta ética?
✓ Correcto. Las tarjetas de modelo son una herramienta de transparencia que permite a los usuarios de un modelo conocer sus limitaciones y sesgos antes de desplegarlo.
✗ Incorrecto. Las tarjetas de modelo son documentos de transparencia que acompañan a los modelos de IA y documentan sus limitaciones conocidas, sesgos y usos recomendados, ayudando a los usuarios a tomar decisiones informadas sobre su despliegue.
🧪 Lab · Lección 8
Laboratorio: Diseñar para la Ética
Trabaja con la IA para diseñar un marco ético básico para un sistema de IA real o plausible.
Objetivo del laboratorio
La IA actuará como directora de ética de una organización tecnológica. Te guiará para diseñar un marco ético básico para un sistema de IA, aplicando las lecciones de todo el módulo.
Sugerencia: Elige un sistema de IA que te gustaría diseñar éticamente —un sistema de orientación académica, una plataforma de empleo, una herramienta de salud mental— y trabaja con la IA para identificar los riesgos, las decisiones de diseño críticas y las salvaguardas necesarias.
🤖 Directora de Ética en IALab 8
📋 Examen del Módulo 8
Ética de la IA y Decisiones Reales — 15 preguntas sobre todos los temas del módulo
Pregunta 1 de 15
¿En qué año desactivó Amazon su herramienta de selección de currículos basada en IA, y cuál fue la razón principal?
✓ Correcto. Amazon desactivó la herramienta en 2018 al descubrir que aprendió a penalizar currículos con indicadores de género femenino.
✗ Incorrecto. Amazon desactivó la herramienta en 2018 porque el sistema había aprendido a discriminar contra mujeres a partir de datos históricos de contratación sesgados.
Pregunta 2 de 15
La ética de la virtud pregunta principalmente:
✓ Correcto. La ética de la virtud evalúa acciones por el carácter que revelan, no solo por sus consecuencias o su conformidad con reglas.
✗ Incorrecto. La ética de la virtud se pregunta qué tipo de carácter —individual o institucional— revelan las decisiones que tomamos, más allá de sus consecuencias o legalidad.
Pregunta 3 de 15
El algoritmo de Optum/UnitedHealth Group que discriminaba a pacientes negros en EE.UU. usaba como proxy de necesidad médica:
✓ Correcto. El gasto histórico en salud reflejaba desigualdades de acceso previas, no diferencias reales en el nivel de enfermedad.
✗ Incorrecto. El algoritmo usaba el gasto histórico en salud como proxy de necesidad médica, lo cual penalizaba a quienes habían tenido menos acceso histórico al sistema sanitario.
Pregunta 4 de 15
¿Cuál es el "daño procesal" en el contexto de los sistemas algorítmicos?
✓ Correcto. El daño procesal ocurre cuando el proceso viola derechos, independientemente de si el resultado final pudiera considerarse correcto.
✗ Incorrecto. El daño procesal se refiere a la violación de derechos en el proceso mismo de decisión —como ocurrió con SyRI en los Países Bajos, que vigilaba sin notificar ni permitir impugnación.
Pregunta 5 de 15
¿Qué mostró el proyecto Moral Machine del MIT sobre las preferencias en accidentes de vehículos autónomos?
✓ Correcto. El estudio documentó variaciones culturales sustanciales en las preferencias éticas, lo que cuestiona la posibilidad de una solución universal.
✗ Incorrecto. El proyecto Moral Machine encontró diferencias culturales significativas: las sociedades más individualistas tendían a priorizar al pasajero; las más colectivistas, al peatón.
Pregunta 6 de 15
¿Cuál es la afirmación matemáticamente correcta sobre las definiciones de justicia algorítmica cuando los grupos tienen tasas de base distintas?
✓ Correcto. Este es el teorema de imposibilidad demostrado formalmente en 2016: distintas definiciones de justicia son mutuamente excluyentes cuando las tasas de base difieren.
✗ Incorrecto. La incompatibilidad es matemáticamente demostrada: cuando los grupos tienen tasas de base distintas, no es posible satisfacer simultáneamente calibración y paridad de error.
Pregunta 7 de 15
¿Cuáles son los tres elementos que hacen que el consentimiento sea genuinamente "informado"?
✓ Correcto. Los tres elementos son necesarios y complementarios: sin comprensión real o sin libertad de rechazo, el consentimiento no es genuino.
✗ Incorrecto. El consentimiento informado requiere: información completa, comprensión real de esa información, y libertad genuina para rechazar sin sufrir consecuencias negativas. Aceptar términos de servicio no cumple estos criterios.
Pregunta 8 de 15
¿Qué reveló Frances Haugen en su testimonio ante el Senado de EE.UU. en 2021?
✓ Correcto. Los Facebook Papers mostraban que la empresa era consciente del daño y eligió no actuar para proteger sus métricas de negocio.
✗ Incorrecto. Haugen presentó documentos que mostraban que Facebook sabía que sus algoritmos eran perjudiciales —para adolescentes, para el discurso público— y eligió priorizar el crecimiento sobre la seguridad.
Pregunta 9 de 15
¿Cuál de las siguientes es una herramienta técnica concreta para detectar sesgos en sistemas de IA?
✓ Correcto. AI Fairness 360 es una herramienta técnica de código abierto de IBM para medir y mitigar sesgos en sistemas de IA.
✗ Incorrecto. AI Fairness 360 de IBM es una herramienta técnica concreta —de código abierto— para medir y mitigar sesgos en sistemas de IA. COMPAS y SyRI son ejemplos de sistemas con problemas de sesgo, no herramientas para combatirlo.
Pregunta 10 de 15
¿Por qué el gobierno de los Países Bajos desplegó el sistema SyRI exclusivamente en barrios de bajos ingresos con alta proporción de inmigrantes, según la investigación posterior?
✓ Correcto. El despliegue geográfico del sistema reveló un sesgo estructural: se vigilaba sistemáticamente a los más vulnerables en lugar de distribuir la vigilancia de forma equitativa.
✗ Incorrecto. La investigación reveló que el sistema usaba criterios que correlacionaban con variables socioeconómicas y migratorias, orientando la vigilancia sistemáticamente hacia los más vulnerables, lo cual era en sí mismo un sesgo estructural.
Pregunta 11 de 15
¿Qué demostró formalmente un estudio publicado en Science en 2016 sobre las definiciones de justicia algorítmica?
✓ Correcto. El estudio demostró que elegir una definición de justicia matemáticamente implica renunciar a otras, lo que hace de la justicia algorítmica una decisión política, no solo técnica.
✗ Incorrecto. El estudio publicado en Science demostró formalmente que distintas definiciones de justicia son matemáticamente incompatibles cuando los grupos tienen tasas de base distintas, haciendo de la "justicia" una elección política inevitablemente.
Pregunta 12 de 15
El experimento de contagio emocional de Facebook en 2012 fue éticamente problemático principalmente porque:
✓ Correcto. La aceptación de los términos de servicio no equivale al consentimiento informado necesario para participar en un experimento de manipulación emocional.
✗ Incorrecto. El problema ético central fue que Facebook manipuló emocionalmente a casi 700,000 personas sin su consentimiento genuino, usando los términos de servicio como sustituto del consentimiento informado.
Pregunta 13 de 15
¿Cuál fue el resultado del accidente fatal del Tesla Model S en modo Autopilot en Florida en 2016?
✓ Correcto. El caso de Joshua Brown fue un hito histórico que obligó a la industria y los reguladores a confrontar la pregunta de quién es responsable cuando una IA falla con consecuencias fatales.
✗ Incorrecto. El accidente fue la primera muerte documentada con un vehículo semi-autónomo activo y desencadenó el debate sobre responsabilidad cuando sistemas de IA toman decisiones con consecuencias fatales.
Pregunta 14 de 15
¿Qué distingue el AI Act europeo de 2024 de los marcos éticos anteriores como los Principios de IA de Google?
✓ Correcto. La diferencia fundamental entre marcos éticos voluntarios y regulación vinculante es la existencia de mecanismos de aplicación y sanciones reales.
✗ Incorrecto. La distinción clave es que el AI Act es un marco legal con sanciones reales para el incumplimiento, mientras que los Principios de IA de Google son compromisos voluntarios sin mecanismo de aplicación coercitivo externo.
Pregunta 15 de 15
Según el módulo, ¿cuál es el punto de partida más importante para construir IA ética?
✓ Correcto. La pregunta "¿quién podría resultar dañado?" orienta todo el proceso: desde la elección de datos hasta las salvaguardas, pasando por quién está en la sala de diseño.
✗ Incorrecto. El punto de partida es preguntarse quién podría ser dañado y diseñar activamente para prevenir ese daño. La ética de la IA comienza con anticipación del impacto, no con cumplimiento reactivo de normas.
—
Has completado el Módulo 8: Ética de la IA y Decisiones Reales