Detrás de cada respuesta de un chatbot existen filtros, expertos y una visión de mundo que se moldea constantemente. Para Altman, ser la cara pública de esta tecnología implica una carga mental que, según sus propias palabras, le ha arrebatado el sueño desde el lanzamiento de la herramienta en dos mil veintidós.
⚖️ La construcción del “Marco Moral”
Altman explica que ChatGPT no es simplemente código, sino un reflejo de decisiones éticas humanas:
- Cientos de expertos: Las respuestas actuales son el resultado de consultas con filósofos morales y especialistas en ética tecnológica.
- Responsabilidad individual: Aunque existe un equipo de “comportamiento del modelo”, Altman afirma: “La persona a la que hay que hacer responsable de qué marco moral se aplica soy yo”.
- Aprendizaje del modelo: El directivo se mostró sorprendido por la capacidad de la IA para aprender y aplicar marcos morales complejos de manera general.
🔍 Lo que “quita el sueño” al creador
A diferencia de los escenarios apocalípticos de la ciencia ficción, las preocupaciones de Altman son más sutiles y directas:
- Las decisiones pequeñas: Le preocupa el impacto acumulativo de cómo el modelo se comporta en interacciones diarias, ya que estas moldean la perspectiva de millones de personas.
- Equilibrio entre libertad y seguridad: Su objetivo es tratar a los usuarios como adultos, ofreciéndoles garantías de seguridad sin restringir excesivamente su libertad de uso.
- Pluralidad de visiones: Altman asegura que no busca imponer su visión moral personal: “Hay muchas cosas que ChatGPT permite con las que yo no estaría de acuerdo”.
🌍 Adaptación a las leyes locales
Uno de los pilares del desarrollo de OpenAI es el respeto a la diversidad cultural y legal:
- Leyes sociales: El modelo intenta ajustarse a las normativas de las diferentes sociedades en las que opera.
- Visión colectiva: Altman se percibe a sí mismo como un “facilitador” que busca reflejar la visión moral colectiva de su base de usuarios, en lugar de ser un juez único.
Esta honestidad sobre el impacto personal del proyecto subraya la magnitud de lo que está en juego: una tecnología que, aunque es una herramienta para todos, requiere una vigilancia constante para no desequilibrar el tejido ético de la sociedad.
