MÉXICO, 17 DE SEPTIEMBRE DEL 2025
Mustafa Suleyman, director ejecutivo de la división de inteligencia artificial de Microsoft, sostuvo que desarrollar sistemas de IA que superen a las capacidades humanas no solo es riesgoso, sino éticamente inmoral. Según él, la responsabilidad debe centrarse en que la tecnología potencie al ser humano, no sustituirlo o rivalizar con sus capacidades fundamentales.
Suleyman se refiere a lo que en el ámbito tecnológico se conoce como inteligencia artificial general (AGI), que aspiraría a igualar o exceder la cognición humana en diversos dominios. Él advierte que si esos sistemas alcanzan niveles de autonomía, motivaciones, deseos, objetivos propios o conciencia, dejarán de ser meras herramientas.
- Una de las mayores preocupaciones de Suleyman es que la sociedad comience a otorgar derechos a las IA, bajo la ilusión de que son conscientes. Él considera esto “peligrosísimo y totalmente erróneo”.
- También advierte sobre la posibilidad de que las máquinas autónomas tomen decisiones perjudiciales al estar fuera del control humano.
- Otra dimensión es el bienestar de la IA: la idea de que pueda “sufrir” o experimentar emociones, algo que Suleyman rechaza como base ética para concederle derechos.
Suleyman hace un llamado a establecer barreras normativas y éticas internacionales que definan qué tipo de desarrollo de IA es aceptable. Sustenta que la tecnología debe servir al ser humano, no en convertirse en su sustituto, ni en un ente con voluntad propia.
Cuando un líder en tecnología plantea que avanzar hacia IA superior a la humana es inmoral, se está trazando no solo una línea de crítica, sino un punto de inflexión. En este debate se conjugan la responsabilidad técnica, los riesgos sociales y los valores fundamentales de lo que significa conservar lo humano. Es probable que las decisiones que se tomen ahora definan por décadas qué tipo de relación existirá entre humanos y máquinas.
