Elon Musk y Steve Wozniak se unen a petición de pausar experimentos de IA

Elon Musk, Steve
Wozniak y el excandidato presidencial Andrew Yang se unieron a cientos de
personas que pidieron una pausa de seis meses en los experimentos de IA en una
carta abierta, o podríamos enfrentar “riesgos profundos para la sociedad y
la humanidad”.

 
“Los
sistemas de IA contemporáneos ahora se están volviendo competitivos para los
humanos en tareas generales” se lee en la carta abierta, publicada en el
sitio web de Future of Life Institute, una organización sin fines de lucro.
“¿Deberíamos desarrollar mentes no humanas que eventualmente podrían
superarnos en número, ser más inteligentes, dejarnos obsoletos y sustituirnos?”

El colectivo
futurista, respaldado por Musk, declaró anteriormente en una carta abierta de
2015 que apoyaban el desarrollo de la IA para beneficiar a la sociedad, pero
desconfiaban de los peligros potenciales.

La última
carta abierta, firmada por 1.124 personas hasta el miércoles por la tarde,
apunta al GPT-4 de OpenAI como una señal de advertencia. La versión actual,
según se jacta la compañía, es más precisa, similar a la humana y tiene la
capacidad de analizar y responder a las imágenes. Incluso pasó un examen de
barra simulado “En
algún momento, puede ser importante obtener una revisión independiente antes de
comenzar a entrenar sistemas futuros, y para los esfuerzos más avanzados
acordar limitar la tasa de crecimiento de la computación utilizada para crear
nuevos modelos” afirmó una publicación reciente de OpenAI.

“Estamos
de acuerdo. Ese punto es ahora” escriben los futuristas. “Esto no
significa una pausa en el desarrollo de la IA en general, simplemente un paso
atrás”. Puede
parecer contradictorio con los propios esfuerzos de inteligencia artificial del
multimillonario, quien expresó: “Estoy
un poco preocupado por las cosas de la IA” desde un escenario a
principios de este mes, rodeado de ejecutivos de Tesla, informó Reuters.