La compañía fabricante de ChatGPT afirmó que una inteligencia artificial universal podría ser concebida en los próximos diez años. Impedir su desbordamiento, enfatizó, constituye uno de los desafíos técnicos más significativos de nuestra era.
OpenAI, la innovadora detrás de ChatGPT, está conformando un nuevo equipo con un objetivo único: desarrollar estrategias para dirigir y gestionar una futura «superinteligencia artificial». Estos sistemas, también conocidos como Inteligencia Artificial Fuerte o Inteligencia Artificial General, se espera que alcancen un nivel intelectual equiparable al de los seres humanos. Según OpenAI, esto podría suceder en los próximos diez años.
En un comunicado publicado en su blog este miércoles, OpenAI explicó: «Para hacer frente a sistemas de inteligencia artificial mucho más inteligentes que nosotros, necesitamos avances científicos y técnicos en el ámbito del control y la dirección». Se reveló que el equipo estará liderado por Ilya Sutskever, científico jefe y uno de los cofundadores de la compañía, junto con Jan Leike, líder del equipo de alineación.
Se han fijado un plazo de cuatro años para completar esta tarea. «En la actualidad, no tenemos una solución para dirigir o controlar de manera efectiva una inteligencia artificial potencialmente superinteligente y prevenir comportamientos deshonestos», explicó OpenAI. En este momento, señalaron, solo disponemos de técnicas como el aprendizaje reforzado basado en la retroalimentación humana. Sin embargo, advierten que esta forma de supervisión será insuficiente cuando estos sistemas se vuelvan «considerablemente más inteligentes que nosotros».
Como parte de sus esfuerzos, la empresa, en asociación con Microsoft, ha destinado el 20% de su capacidad informática actual para abordar este desafío. Además, han lanzado una convocatoria en busca de investigadores y ingenieros especializados en modelos de lenguaje que se unan a su equipo.
La eventualidad de una «inteligencia artificial sobresaliente» perjudicial.
OpenAI no solo está afirmando que una «superinteligencia artificial» podría llegar en breve. En su blog, la compañía declaró: «La superinteligencia será la innovación más impactante que la humanidad haya concebido». Sin embargo, también advierte sobre la posibilidad de que esta tecnología no sea benigna: «El inmenso poder de la superinteligencia también podría resultar altamente peligroso, llevando a la humanidad a perder su dominio o incluso a la extinción».
Desde el lanzamiento de ChatGPT, que ha impulsado la carrera hacia el desarrollo de la inteligencia artificial, diversos expertos han opinado sobre qué tan cercano estamos a un escenario de este tipo. Un grupo de investigadores de Microsoft, por ejemplo, publicó un estudio en marzo en el que mencionaron que el modelo GPT-4, desarrollado por OpenAI, ya mostraba indicios de ser una «inteligencia artificial general».
En marzo, Bill Gates, uno de los cofundadores de Microsoft, compartió su reflexión sobre el momento oportuno para el surgimiento de una «superinteligencia artificial». Según él, es demasiado pronto para hacer predicciones precisas, ya que podría llevarse a cabo en una década o incluso en un siglo. No obstante, destacó que surgirán interrogantes cada vez más apremiantes en torno al tema. Por ejemplo, ¿cuáles serán los objetivos de estos sistemas? ¿Deberíamos intentar prevenir su desarrollo en algún momento?
Una inteligencia artificial de esta magnitud tendría la capacidad de realizar todo lo que un cerebro humano puede hacer e incluso superarlo desde un punto de vista técnico. A diferencia de los seres humanos, este sistema no estaría limitado por restricciones prácticas en términos de memoria o velocidad de procesamiento. Además, algunos científicos también plantean la cuestión de la conciencia en relación a este concepto.
¿En qué área iniciará OpenAI su trabajo?
OpenAI ha compartido su estrategia para abordar el desafío de controlar una futura superinteligencia artificial, y consiste en emplear un «investigador de alineación automatizado con un nivel de aproximadamente inteligencia humana». En otras palabras, tienen la intención de desarrollar otra inteligencia artificial que se encargue de regular y supervisar.
El plan consiste en entrenar los sistemas existentes utilizando retroalimentación humana, de manera que puedan evaluar otros sistemas de inteligencia artificial. A partir de esta información, se construirá un modelo capaz de investigar cómo asegurar que las máquinas no se descontrolen.
OpenAI ha destacado que la alineación de una superinteligencia es uno de los problemas técnicos más cruciales de nuestra época y ha enfatizado la necesidad de contar con las mentes más brillantes del mundo para resolver este desafío.
Fuente: https://hipertextual.com/
