Advierten sobre amenaza a la humanidad de la IA 

Cientos de expertos en inteligencia artificial y líderes tecnológicos firmaron una carta en la que advierten sobre la amenaza existencial para la humanidad que representa la Inteligencia Artificial (IA).

Redacción Negocios Now

“Los modelos de IA pronto podrían ser más inteligentes y poderosos que nosotros y, por tanto, es hora de imponer límites para garantizar que no tomen el control de los humanos o destruyan el mundo”, indica la misiva publicada.

El grupo de científicos y líderes de la industria tecnológica también señalan, en una publicación en el sitio Web del Centro para la Seguridad de la IA: “Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.

Los firmantes, incluyendo ejecutivos e investigadores tecnológicos, pidieron una pausa de seis meses en la capacitación de sistemas de inteligencia artificial más potentes que GPT-4, la última versión del chatbot ChatGPT.

La carta advierte: “La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, por lo cual debe planificarse y administrarse con el cuidado y los recursos correspondientes”.

Dan Hendrycks, director ejecutivo del Centro para la Seguridad de la IA, declaró en una entrevista que la carta abierta representaba una “salida del clóset” para algunos líderes del sector que habían expresado su preocupación, pero solo en privado, por los riesgos de la tecnología que están desarrollando.

“Existe la idea errónea, incluso en la comunidad de la IA, de que solo hay un grupo de catastrofistas”, dijo Hendrycks. “Pero, de hecho, muchas personas expresan en privado su preocupación por estas cosas”.

Algunos escépticos sostienen que la tecnología de la IA aún está en ciernes como para suponer una amenaza existencial. En lo que respecta a los sistemas actuales, les preocupan más los problemas a corto plazo, como las respuestas sesgadas e incorrectas, que los peligros a largo plazo.

Pero otros han argumentado que la IA está mejorando con tanta rapidez que ya ha superado el rendimiento humano en algunas áreas y que pronto lo hará en otras.