Geoffrey Hinton teme que no haya nada que impida que los 'malos actores' usen IA para hacer cosas muy malas.

Geoffrey Hinton, un ingeniero de Google ampliamente considerado el padrino de la inteligencia artificial, renunció a su trabajo y ahora advierte sobre los peligros de un mayor desarrollo de la IA.

Hinton trabajó en Google durante más de una década y es responsable de un avance tecnológico de 2012 que sirve como base para las IA actuales como ChatGPT. Anunció su renuncia a Google en un comunicado al New York Times, diciendo que ahora se arrepiente de su trabajo.

"Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo habría hecho", dijo al periódico.

"Es difícil ver cómo se puede evitar que los malos actores lo usen para cosas malas", continuó Hinton sobre la IA.

Hinton trabajó en Google durante más de una década y es responsable de un avance tecnológico de 2012 que sirve como base para las IA actuales como ChatGPT. Anunció su renuncia a Google en un comunicado al New York Times, diciendo que ahora se arrepiente de su trabajo.

"Me consuelo con la excusa normal: si no lo hubiera hecho yo, alguien más lo hubiera hecho", dijo al periódico.

"Es difícil ver cómo se puede evitar que los malos actores lo usen para cosas malas", continuó Hinton sobre la IA.

Uno de los estudiantes de posgrado que trabajó en el proyecto con Hinton, Ilya Sutskever, ahora trabaja como científico jefe de OpenAI.

Hinton dijo que la progresión observada desde 2012 es asombrosa, pero probablemente sea solo la punta del iceberg.

“Mira cómo era hace cinco años y cómo es ahora”, dijo sobre la industria. "Toma la diferencia y propágala hacia adelante. Eso da miedo".

Los temores de Hinton se hacen eco de los expresados ​​por más de 1000 líderes tecnológicos a principios de este año en una carta pública que pedía una breve interrupción del desarrollo de la IA. Hinton no firmó la carta en ese momento, y ahora dice que no quería criticar a Google mientras estuvo en la empresa. Desde entonces, Hinton terminó su empleo allí y tuvo una llamada telefónica con el CEO de Google, Sundar Pichai, el jueves.

"Seguimos comprometidos con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras innovamos audazmente", dijo al Times el científico jefe de Google, Jeff Dean.