Un grupo de científicos informáticos y personalidades de la industria tecnológica ha solicitado una pausa de seis meses en el avance de la inteligencia artificial. La petición, organizada por el Instituto Futuro de la Vida, ha sido firmada por destacados investigadores en el campo de la IA, incluyendo a Yoshua Bengio, Stuart Rusell y Gary Marcus, así como por el cofundador de Apple, Steve Wozniak, y el CEO de Tesla y SpaceX, Elon Musk.
La carta advierte que los sistemas de inteligencia artificial con “inteligencia competitiva con humanos” pueden plantear fuertes riesgos a la sociedad y la humanidad. Los firmantes temen que las máquinas superen a los humanos en el futuro y que esto lleve a la automatización de trabajos, la inundación del internet con desinformación y otros riesgos más catastróficos. Se señala que en los últimos meses, los laboratorios de IA han estado enfrascados en una carrera sin control para desarrollar y desplegar mentes digitales más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de manera fiable.
La petición ha sido una respuesta al reciente lanzamiento del GPT-4 de la empresa incipiente OpenAI, un sucesor más avanzado de su extensamente usado chatbot ChatGPT, que en parte impulsó una carrera entre los gigantes tecnológicos Microsoft y Google para lanzar aplicaciones similares. Sin embargo, ni OpenAI, ni Microsoft ni Google han respondido a las peticiones de comentario del miércoles.
A pesar de la petición, algunos expertos en el campo de la IA han criticado la carta por no tomar en cuenta los problemas regulatorios y por ser hipócrita en algunos casos, como el de Elon Musk, dado que Tesla ha luchado contra la responsabilidad por la inteligencia artificial defectuosa en sus autos autónomos. Aún así, la petición ha puesto de manifiesto la preocupación de algunos expertos por el avance acelerado de la IA y la necesidad de considerar sus riesgos.
