Responsabilidad profesional
"'Estaba siguiendo órdenes' no fue defensa válida en Núremberg. Tampoco lo es en ingeniería de software."
Qué vas a aprender en este capítulo
Cierre del libro y de la carrera: ¿cuáles son tus responsabilidades como profesional? ¿Cómo enfrentar dilemas éticos en el trabajo? ¿Cómo elegir dónde trabajar? Casos reales para reflexionar.
5.1 Las múltiples responsabilidades
📐 Fundamento
Como ingeniero profesional, tenés responsabilidades hacia:
| Stakeholder | Ejemplo de responsabilidad |
|---|---|
| Sociedad | No construir herramientas de daño masivo |
| Empleador | Trabajo competente, leal, honesto |
| Cliente | Solución que sirva su interés real |
| Usuarios finales | Privacidad, seguridad, accesibilidad |
| Colegas | Honestidad, crédito, mentoría |
| Profesión | Mantener estándares, contribuir al campo |
| Vos mismo | Integridad, desarrollo, salud |
Cuando estos entran en conflicto — y lo harán — necesitás un orden de prioridades.
Orden propuesto (varía por contexto):
- Sociedad / vida humana.
- Usuarios finales.
- Profesión / integridad.
- Empleador.
- Vos mismo.
¿Por qué empleador no es primero? Porque si tu empleador te pide algo que daña a la sociedad o usuarios, decir "estoy haciendo mi trabajo" no te exonera.
Caso histórico — VW Dieselgate (2015):
VW programó software para detectar tests de emisiones y reducir contaminación SOLO durante el test. En uso real, contaminaba 40x el límite legal.
- Ingenieros sabían y participaron.
- Algunos dijeron "siguieron órdenes".
- Resultado: condenas penales individuales (años de cárcel para ingenieros, no solo executives), $33B en multas a VW.
Lecciones:
- "Estaba haciendo mi trabajo" no es defensa.
- La firma técnica del ingeniero individual cuenta.
- El empleador no te protegerá cuando estalle el escándalo.
5.2 Cuando el empleador pide algo no ético
📐 Fundamento
Espectro de respuestas (de menor a mayor confrontación):
1. Cumplir sin objeción
2. Cumplir con cuestionamiento privado
3. Cumplir con objeción por escrito
4. Negarse internamente, escalar
5. Negarse y aceptar consecuencias
6. Whistleblowing externo
7. Renunciar sin denunciar
8. Renunciar y denunciar
Cuándo cada uno es apropiado:
| Situación | Respuesta apropiada |
|---|---|
| Decisión de UX que no me gusta personalmente | 1-2 |
| Práctica controversial pero legal | 2-3 |
| Acción que perjudica a usuarios pero no es ilegal | 3-4 |
| Violación de leyes / códigos profesionales | 4-7 |
| Daño grave/masivo a personas | 6-8 |
| Crimen actual (fraude, espionaje) | 6-8 |
Antes de escalar/denunciar — checklist:
-
¿Estoy seguro de los hechos?
- Documentar evidencia.
- Verificar interpretación.
- Asumir buena fe primero ("¿podría haber explicación inocente?").
-
¿Intenté canales internos?
- Hablar con tu manager.
- Manager del manager.
- HR / Legal / Ethics committee.
- Board (si existe).
-
¿Tengo respaldo legal?
- Consultar abogado antes de denunciar externamente.
- Conocer protecciones de whistleblower en tu país.
- Documentar cronología.
-
¿Estoy dispuesto a las consecuencias?
- Posible despido (incluso ilegal, pero ocurre).
- Lista negra en industria.
- Costo emocional alto.
- Posibles litigios.
Whistleblowers famosos:
- Edward Snowden (NSA, 2013): reveló surveillance masiva de USA. Asilo en Rusia, no puede volver a USA.
- Frances Haugen (Facebook, 2021): reveló impacto en salud mental de adolescentes. Carrera afectada pero respetada.
- Daniel Ellsberg (Pentagon, 1971): Pentagon Papers sobre Vietnam. Cargos penales eventualmente desestimados.
- Erika Cheung (Theranos, 2014): denunció fraude. Inicialmente atacada, después celebrada.
Costo personal: todos pasaron años con consecuencias legales, financieras, sociales. La "decisión correcta" no es siempre fácil ni gratis.
Protecciones legales (varían por país):
- USA: Sarbanes-Oxley, Dodd-Frank protegen denunciantes corporativos.
- EU: EU Whistleblower Directive (2019).
- El Salvador: menos desarrollada; consultar abogado.
Anti-patrón: "no te metás":
Cultura que castiga a quien reporta problemas, en lugar de a quien los causa. Si estás en una empresa así, considerá renunciar.
5.3 Construir cultura ética
📐 Fundamento
Como ingeniero senior / líder, no solo tomás decisiones — modelás comportamiento.
Comportamientos que crean cultura ética:
- Hablar abiertamente sobre dilemas éticos en planning.
- Recompensar quien dice "no" a algo dañino.
- Documentar decisiones controversiales (ADRs).
- Hacer postmortems blameless (cap. 5 de GPI915).
- Dar espacio a los junior para cuestionar.
- Citar el código de ética cuando aplica.
- Reconocer cuando uno se equivoca.
Comportamientos que erosionan cultura ética:
- "Solo es código, no te tomes esto personal."
- "El cliente tiene razón" (incluso cuando pide cosas dañinas).
- "Eso es problema de Legal/Compliance/Otro".
- Ridiculizar preocupaciones éticas como "ingenuas" o "lentas".
- Aceptar prácticas dudosas porque "todos lo hacen".
Ethics as a service:
Algunas empresas tienen Ethics Boards o Ethics Committees:
- Microsoft: Office of Responsible AI.
- Google: AI Principles + reviews internas.
- Apple: privacy reviews por producto.
- Anthropic: dedicada a alignment.
Pero también casos donde se desmantelaron:
- Google despidió a su Ethics in AI lead (Timnit Gebru, 2020).
- Microsoft eliminó equipo de AI ethics (2023).
- Twitter desmanteló trust & safety team (post-Musk, 2022).
→ La cultura puede cambiar rápido. Vigilar señales.
Personal ethics statement:
Algunos profesionales escriben (privadamente o públicamente) qué NO harían:
- No trabajaría en armas autónomas (kill decisions).
- No trabajaría en sistemas de surveillance masiva.
- No trabajaría en juegos de azar con dark patterns.
- No trabajaría en empresas que sistemáticamente discriminan.
Tener esto claro DE ANTEMANO te ayuda cuando llega la oferta tentadora.
5.4 Decisiones de carrera
📐 Fundamento
Evaluar éticamente una empresa antes de unirse:
Preguntas para hacer en entrevistas (sí, podés):
- ¿Cómo manejan dilemas éticos? Pedí un ejemplo concreto.
- ¿Qué pasaría si yo me opongo a una feature por razones éticas?
- ¿Tienen Ethics Board o proceso similar?
- ¿Cuál es la postura sobre privacidad de usuarios?
- ¿Cómo es la cultura de feedback negativo?
Red flags:
- "Nunca tuvimos un dilema ético" → mentira, no estuvieron prestando atención.
- Negarse a discutir el tema.
- Foco exclusivo en "engagement" / "growth" sin métricas de bienestar.
- Historia pública de escándalos.
- Alta rotación, especialmente de mujeres / minorías.
Conflicto de intereses al elegir:
| Empresa con buena cultura | Empresa que paga 50% más |
|---|---|
| Trabajo significativo | Más dinero |
| Buen equipo | ¿Estás cómodo con el producto? |
| Crecimiento profesional | ¿La cultura es tóxica? |
| Buen balance vida-trabajo | ¿Ética cuestionable? |
No hay respuesta universal. Pero tener claro tus valores ANTES ayuda.
El argumento del "cambio desde adentro":
"Voy a unirme a [empresa controvertida] para cambiarla desde adentro."
A veces funciona, generalmente no. Razones:
- Las empresas no cambian por un junior dev.
- Te termina cambiando ella a vos.
- Tu trabajo legitima la organización.
Casos donde sí funcionó: ingenieros senior con poder real, o cuando coincide con momento de crisis (post-escándalo, cambio de leadership).
5.5 Casos reales para discutir
🛠️ En la práctica
Caso 1 — Therac-25 (1985-1987):
Máquina de radioterapia con software defectuoso. Sobredosis de radiación mataron a 6 pacientes.
Causas:
- Programador único, sin code review.
- Reusó código de modelos anteriores que tenían interlocks de hardware.
- Nuevo modelo eliminó interlocks de hardware confiando en software.
- Race conditions en interfaz de usuario.
- Cuando ocurrieron errores, mensajes ambiguos ("MALFUNCTION 54").
Lecciones:
- Code reviews críticos en software de seguridad.
- Defensa en profundidad (no eliminar safeguards físicos).
- Mensajes de error claros.
- Reportar incidentes inmediatamente (algunos hospitales fueron lentos).
Caso 2 — Volkswagen Dieselgate (2015):
Software detectaba modo "test" y reducía emisiones. En uso normal contaminaba 40x el límite.
Causas:
- Presión por competir con Toyota.
- Imposible cumplir specs sin sacrificar performance.
- "Solución" propuesta por ingenieros, aprobada por management.
- Cultura de no decir "no se puede".
Consecuencias:
- $33B+ en multas y demandas.
- Ingenieros individuales fueron a prisión.
- Reputación de VW destruida por años.
- Lecciones para industria: certificaciones más estrictas, ingenieros más responsables.
Caso 3 — Boeing 737 MAX (2018-2019):
346 muertos en dos accidentes. Sistema MCAS hizo que los aviones se inclinaran hacia abajo a pesar de pilotos.
Causas:
- Presión competitiva contra Airbus.
- Decisiones de costos: no entrenamiento adicional para pilotos.
- Sensor único (no redundancia) por costos.
- Documentación ocultada a la FAA.
- Pilotos no informados del sistema MCAS.
Lecciones:
- Safety-critical systems requieren redundancia siempre.
- No comunicar features de seguridad es criminal.
- Cultura corporativa de "mover rápido" puede matar.
Caso 4 — Cambridge Analytica (2018):
Datos de 87M usuarios de Facebook usados sin consentimiento para influenciar Brexit y elecciones USA 2016.
Causas:
- Facebook permitía a apps acceder a datos de "amigos de amigos".
- Cambridge Analytica creó test de personalidad, recolectó datos.
- Vendió a campañas políticas para targeting.
Consecuencias:
- Multa de $5B a Facebook.
- Cambridge Analytica disolvió.
- Aumento de regulación (GDPR ya estaba en camino).
Caso 5 — Theranos (2003-2018):
Startup biotech que prometió diagnósticos con una gota de sangre. Tecnología nunca funcionó. Resultados falsos pusieron pacientes en peligro.
Causas:
- Hype, presión de inversionistas.
- Cultura de "fake it til you make it" extrema.
- Suprimieron whistleblowers internos.
- Clientes y prensa engañados.
Whistleblower clave: Erika Cheung, ingeniera quality control, denunció. Atacada por la empresa pero terminó vindicada. Elizabeth Holmes en prisión.
Caso 6 — La fuga de SolarWinds (2020):
Atacantes (probablemente Rusia) comprometieron actualizaciones de software de SolarWinds. ~18,000 organizaciones afectadas, incluyendo agencias gubernamentales USA.
Causas:
- Contraseña débil ("solarwinds123") en sistema crítico — pero no la causa principal.
- Infiltración profunda en pipeline de build.
- Sistema de monitoreo no detectó por meses.
Lecciones:
- Supply chain security es crítica.
- Build systems necesitan misma protección que producción.
- "Defense in depth" no es opcional.
5.6 Cierre del libro y la carrera
Llegaste al final del último libro. Por extensión, al final (o cerca) de la carrera de Ingeniería en Sistemas.
Aprendiste muchas cosas: matemáticas, programación, redes, bases de datos, IA, seguridad, gestión, ética. Pero más importante: aprendiste cómo aprender lo que viene después — porque la tecnología cambia constantemente.
Tres reflexiones para cerrar:
1. La técnica no es suficiente.
Un ingeniero técnicamente brillante que construye sistemas dañinos no es un buen profesional. La capacidad sin sabiduría es peligrosa.
2. Tenés más poder del que pensás.
Un dev junior puede decir "no voy a implementar esto" y a veces basta para cambiar la decisión. Un equipo entero diciendo "no" SIEMPRE cambia la decisión.
3. Las herramientas son instrumentos, no destinos.
React, Kubernetes, GPT, Spark — todo será obsoleto en 10-20 años. Lo que perdura: razonamiento, ética, capacidad de aprender, relaciones humanas.
Bienvenido a la profesión. Es un privilegio y una responsabilidad. Buena suerte.
5.7 Ejercicios
✏️ Ejercicio 5.1 — Tu propio código
Escribí tu propio "código de ética personal" como ingeniero. Incluí:
a. Mis valores no negociables: lo que NO haría sin importar el dinero.
b. Mis aspiraciones: el tipo de profesional que quiero ser.
c. Mis red flags: señales que me harían renunciar de un trabajo.
d. Mis prácticas: acciones concretas que aplico para vivir mis valores.
Compartilo (o no) — pero escribilo. Tener esto claro AHORA te va a ayudar cuando enfrentes decisiones difíciles más adelante.
Ejemplo (no único — el tuyo será diferente)
# Mi código de ética como ingeniero — Ana García, 2026
## A. No negociables
- No trabajaría en armas autónomas o sistemas de vigilancia masiva.
- No implementaría dark patterns para engañar usuarios.
- No falsificaría datos a inversionistas, clientes o reguladores.
- No mantendría silencio sobre brechas de seguridad que afectan a usuarios.
- No discriminaría intencionalmente en hiring o promotion.
## B. Aspiraciones
- Ser ingeniera técnicamente excelente, pero también humana y ética.
- Mentorear a juniors, especialmente mujeres en tech.
- Contribuir a software libre.
- Construir productos que mejoren vidas, no que las exploten.
- Ser conocida por integridad antes que por título o salario.
## C. Red flags (renunciaría)
- Manager exige cosas ilegales.
- Cultura sistemática de hostilidad hacia minorías.
- Producto que ya no me hace sentir orgullosa de construir.
- Estrés crónico que afecta mi salud > 3 meses.
- Mentir a usuarios o clientes se vuelve política implícita.
## D. Prácticas concretas
- Voy a code reviews con curiosidad, no con ego.
- Cuando algo me huele mal, hago una pregunta antes de juzgar.
- Documento decisiones técnicas importantes (ADRs).
- Si rechazo trabajo, explico por qué (no quemo puentes innecesariamente).
- Mantengo amistad con colegas — la red profesional importa.
- Me reservo 1 hora semanal para aprender algo nuevo.
- Reviso este documento cada año y lo actualizo.
(Aclaración: tu documento será personal. No hay respuesta correcta.)
✏️ Ejercicio 5.2 — Análisis de caso
Elegí UNO de los casos del 5.5 y respondé:
a. ¿Qué decisión técnica clave permitió el daño?
b. ¿Qué decisión ética clave fue equivocada?
c. ¿Qué hubiera hecho un ingeniero con un código de ética sólido?
d. ¿Cuál es la lección más relevante para tu propia práctica?
(No hay solución única — la respuesta depende de tu reflexión.)
5.8 Para profundizar
- "Ethics for the Information Age" — Michael Quinn (libro de texto canonical).
- "Tools and Weapons" — Brad Smith (presidente de Microsoft).
- "Atlas of AI" — Kate Crawford.
- ACM Tech Policy Council — acm.org/public-policy.
- Documentary: "The Social Dilemma" (Netflix).
- Documentary: "The Inventor: Out for Blood in Silicon Valley" (HBO, sobre Theranos).
Despedida
"La ingeniería es la práctica de cambiar el mundo. La ética profesional es la práctica de hacerlo bien."
Gracias por leer toda la colección "Libros UNIMO — Ingeniería en Sistemas". Cualquier feedback es bienvenido en osielquevedo@gmail.com.
Buena suerte en lo que sigue.
— El equipo de autores.
5.X Mini-proyecto integrador
🏗️ Proyecto final — Tu Code of Ethics personal
Alcance: redactar un documento personal y ejecutable que vas a poder enseñar a un futuro empleador.
Entregables (1 documento de 3-5 páginas):
- Personal Ethics Statement. 5-7 principios concretos (no "ser bueno"; sí "no construyo dark patterns aunque me lo pidan"). Cada principio debe ser medible: alguien que vea tu trabajo puede juzgar si lo cumplís.
- Tres dilemas históricos. Para cada uno (Volkswagen Dieselgate, Cambridge Analytica, Theranos), escribí en un párrafo: qué pasó, dónde estuvo el error ético, y qué hubieras hecho vos si te lo pedían (cap. 1).
- Análisis de un dark pattern real. Capturá una pantalla de una app o web salvadoreña que aplique un dark pattern. Documentá qué patrón es, a quién perjudica, y cómo se rediseñaría (cap. 2-4).
- Plan de whistleblower. Si mañana descubrís que tu empresa hace algo ilegal o seriamente dañino, ¿qué hacés? Escribí los pasos concretos: a quién contactás, qué evidencia guardás, qué protecciones legales aplican en El Salvador (cap. 5).
Criterio de éxito: se lo podés mostrar a un entrevistador en lugar de "soy una persona ética".
Tiempo estimado: un fin de semana intenso. Lo guardás en GitHub o portfolio personal.
Definiciones nuevas: responsabilidad profesional, espectro de respuestas a dilemas, whistleblower, protecciones de whistleblower, cultura ética, ethics board, personal ethics statement, supply chain security, fake-it-til-you-make-it (anti-patrón).