Que exista una posibilidad de que la inteligencia artificial destruya la humanidad en el corto plazo, es un tema que por primera vez puso a los titanes de la industria tecnologica que lideran las compañías que compiten por desarrollar los sistemas de IA más avanzados de mundo, a expresar públicamente preocupación por el ritmo de la carrera.
Por ejemplo, Dario Amodei, CEO de Anthropic, pidió desacelerar el desarrollo de los modelos más avanzados y planteó mecanismos de evaluación independiente, coordinación entre compañías y cooperación internacional. Sam Altman, de OpenAI, y Elon Musk, de xAI, coincidieron en la necesidad de reforzar la seguridad, aunque con diferencias sobre cómo debería hacerse.
Mientras que Bill Gates, cofundador de Microsoft, no ve la inteligencia artificial como una amenaza inevitable ni como una solución automática a los grandes problemas del mundo. Su argumento es más incómodo: estamos entrando en una transformación de dimensiones históricas y todavía no tenemos un plan suficientemente desarrollado para gestionarla.
Para Gates, la particularidad de esta transición está en la velocidad. Las computadoras personales tardaron décadas en modificar profundamente la manera de trabajar porque fue necesario desarrollar software, abaratar los equipos, aprender a utilizarlos y adaptar los procesos empresariales. La IA puede apoyarse, en cambio, sobre dispositivos, infraestructura y datos que ya existen, además de interactuar con las personas mediante lenguaje natural.
Por eso utiliza una frase que resume buena parte de su preocupación: “Esta vez es realmente diferente”. No porque todas las predicciones más extremas vayan necesariamente a cumplirse, sino porque una tecnología capaz de realizar tareas cognitivas y aprender de enormes cantidades de información puede extenderse simultáneamente por sectores que antes evolucionaban a ritmos distintos.
El primer riesgo: un mercado laboral con menos espacio para las personas
Según Gates, muchos empleos podrían desaparecer de manera permanente y su preocupación no está concentrada únicamente en los trabajos manuales. Por el contrario, señala que una de las particularidades de esta ola tecnológica es que puede afectar primero a empleos de oficina y a tareas que tradicionalmente se consideraban relativamente protegidas de la automatización.
Ventas, atención al cliente, asistencia jurídica, ingeniería de software, análisis de datos o evaluación de solicitudes podrían experimentar cambios importantes a medida que los sistemas sean capaces de ejecutar una proporción cada vez mayor de las tareas que hoy realizan trabajadores humanos.
Gates pone especial atención en los empleos de entrada y nivel intermedio porque son precisamente aquellos que suelen servir como puerta de acceso al mercado laboral. Si las organizaciones pueden automatizar esas funciones antes de que una persona tenga la oportunidad de adquirir experiencia, el problema deja de ser simplemente cuántos empleos desaparecerán y pasa a ser cómo se construirá la siguiente generación de trabajadores.
La combinación con robótica podría ampliar todavía más ese impacto hacia actividades físicas. Gates plantea que, conforme los robots se vuelvan más capaces y económicos, algunas tareas de construcción, hostelería y otros sectores podrían comenzar a automatizarse con mayor intensidad.
El punto central, sin embargo, no es que todo empleo vaya a desaparecer. El propio Gates reconoce que también surgirán nuevas ocupaciones y que algunas industrias pueden generar demanda adicional gracias a la reducción de costos. Su preocupación está en la velocidad de la transición y en la posibilidad de que la creación de nuevas oportunidades no alcance a compensar el desplazamiento de trabajadores.
Por eso sostiene que esperar a que el desempleo o el subempleo se conviertan en un problema masivo sería llegar demasiado tarde. Para él, la IA representa un desafío estructural para la relación entre trabajo, ingresos y seguridad económica.
Segundo riesgo: la IA puede aumenta capacidad de personas para causar daño
La misma tecnología que permite encontrar una vulnerabilidad informática para corregirla puede ser utilizada para identificarla y explotarla. La misma capacidad generativa que ayuda a producir contenido puede utilizarse para fabricar campañas de engaño más sofisticadas. Y las herramientas capaces de automatizar determinadas tareas pueden reducir las barreras que antes limitaban la capacidad de un atacante.
Gates menciona entre sus preocupaciones el fraude, la desinformación, los deepfakes, la vigilancia y los ciberataques. También señala que la vulnerabilidad no se limita a individuos o empresas: hospitales, sistemas financieros, redes eléctricas, sistemas de agua y plataformas gubernamentales dependen cada vez más de infraestructuras digitales cuya alteración puede tener consecuencias sobre millones de personas.
Aquí aparece una segunda dimensión del problema: la concentración de poder. Las herramientas de IA no solo pueden darle más capacidades a quien actualmente tiene pocas. También pueden aumentar las capacidades de gobiernos, grandes organizaciones y otros actores que ya concentran recursos. Gates menciona, entre otros escenarios, el desarrollo de armas autónomas y la posibilidad de utilizar sistemas de IA para monitorear o manipular la opinión pública.
Y existe una cuestión todavía más profunda, qué ocurre si los sistemas adquieren capacidades que sus propios desarrolladores no anticiparon completamente. Gates no afirma que una IA vaya inevitablemente a rebelarse contra los seres humanos. Su advertencia es más precisa: a medida que los sistemas se vuelvan más capaces y autónomos, será necesario asegurarse de que sus objetivos y comportamientos permanezcan bajo control humano. El problema de control y alineación aparece así junto a los riesgos derivados del uso malicioso.
El tercer riesgo: cuando la IA comienza a sustituir vínculos
El tercer riesgo de Gates aborda la posibilidad de que la IA interfiera con el desarrollo de los niños y jóvenes y sustituya determinadas relaciones humanas.
Su argumento parte de una característica particular de los compañeros virtuales: pueden estar disponibles permanentemente, adaptarse al usuario y evitar buena parte de las fricciones propias de las relaciones humanas.
Para Gates, esa comodidad puede convertirse en un problema si una persona comienza a sustituir experiencias sociales necesarias para desarrollar habilidades como negociar, tolerar desacuerdos, comprender perspectivas diferentes o salir de la propia zona de confort.
La preocupación se extiende también a la educación. Una herramienta que puede explicar cualquier tema en segundos puede ayudar a aprender, pero también puede eliminar el esfuerzo intelectual necesario para comprenderlo. El desafío consiste entonces en utilizar la IA como apoyo para desarrollar capacidades, y no como sustituto automático del proceso de pensar.
En una época en la que los deepfakes y la desinformación pueden ser cada vez más convincentes, Gates considera especialmente importante preservar la capacidad humana para evaluar información y distinguir entre lo verdadero y lo falso.
No todo es una advertencia: la otra mitad de la ecuación
La posición de Gates también sostiete que los beneficios potenciales de la IA pueden ser extraordinarios, siempre que no se permita que sus costos recaigan desproporcionadamente sobre determinados grupos.
Uno de los campos que considera más prometedores es la investigación científica. La capacidad de analizar grandes cantidades de literatura y encontrar patrones puede acelerar investigaciones relacionadas con enfermedades, energía, alimentos y cambio climático.
En salud, plantea que la IA podría ayudar a hospitales con pocos especialistas, apoyar diagnósticos y facilitar que los pacientes comprendan información médica compleja. En agricultura, especialmente en países de menores ingresos, podría proporcionar recomendaciones sobre clima, semillas, enfermedades y condiciones del suelo.
También ve oportunidades en los servicios públicos. Formularios, trámites y sistemas burocráticos que actualmente pueden resultar difíciles de navegar podrían ser más accesibles mediante herramientas capaces de comprender las necesidades de cada ciudadano.
La educación aparece nuevamente, pero esta vez desde el lado positivo: la IA podría permitir que los docentes dediquen más tiempo a sus estudiantes y ofrecer herramientas de apoyo personalizadas, siempre que el sistema preserve lo que Gates denomina el “esfuerzo productivo”: el trabajo cognitivo que permite construir conocimiento en lugar de simplemente recibir respuestas.
En conjunto, su visión es que la IA podría reducir costos, democratizar determinadas capacidades profesionales, ayudar a personas con discapacidad y permitir que pequeñas empresas o individuos tengan acceso a herramientas que hoy solo están al alcance de organizaciones con grandes recursos.
El mundo necesita un plan antes de que la crisis obligue a construirlo
El planteamiento de Gates termina alejándose de la tecnología y entrando en el terreno institucional.
Su argumento es que las empresas que desarrollan IA no deberían ser las únicas encargadas de decidir cómo gestionar los efectos de sus propios productos. No porque no tengan un papel que desempeñar, sino porque las consecuencias alcanzan ámbitos que exceden el funcionamiento de un laboratorio tecnológico: empleo, educación, salud, seguridad, energía, infraestructura, impuestos y relaciones internacionales.
Por eso propone construir un marco nacional e internacional específico para la inteligencia artificial. Gates considera que las instituciones actuales están fragmentadas para enfrentar una tecnología que atraviesa simultáneamente tantos sectores. Un organismo puede entender el mercado laboral, otro la seguridad informática y otro la salud pública, pero los riesgos de la IA pueden aparecer precisamente en la intersección entre esos campos.
Su propuesta incluye instituciones nacionales capaces de coordinar respuestas y, al mismo tiempo, una estructura internacional que permita abordar riesgos transfronterizos. Para ilustrarlo, recurre a precedentes como los sistemas internacionales de inspección nuclear, la regulación de la aviación y los acuerdos ambientales.
La lógica es sencilla: construir las reglas antes de que ocurra una crisis, no después. ¿Y qué trabajos deberían seguir siendo humanos?
Entre las propuestas más particulares de Gates aparece una idea que denomina “Reserva Humana”: establecer determinadas actividades que, por razones económicas, sociales o morales, deberían permanecer bajo responsabilidad humana incluso cuando una máquina pudiera realizarlas.
Su argumento nace de una experiencia personal. Recuerda el cuidado que recibió su padre durante las últimas etapas del Alzheimer y plantea que hay actividades en las que la dimensión humana no puede medirse únicamente por eficiencia o costo.
La idea no supone, en su planteamiento, que todas las sociedades deban conservar exactamente los mismos empleos. Gates reconoce que las necesidades pueden ser diferentes según cada país y que algunos sectores podrían adoptar robots antes que otros.
Pero introduce una pregunta que probablemente será cada vez más relevante: si una máquina puede hacer algo mejor, más rápido y más barato que una persona, ¿significa eso que necesariamente debería hacerlo? No existe una respuesta tecnológica para esa pregunta. Es una decisión social.