Cuando Jeffrey Hinton tuvo una objeción moral al trabajo de Google con el ejército estadounidense en 2018, no participó en protestas públicas ni puso su nombre en la carta abierta de queja firmada por más de 4000 de sus colegas.
En cambio, solo habló con Sergey Brin, el cofundador de Google. Dijo que también estaba un poco molesto por eso, dijo Hinton en una entrevista en ese momento.
El incidente es emblemático de la tranquila influencia de Hinton en el mundo de la inteligencia artificial. El profesor de 75 años es venerado como uno de los «padrinos» de la inteligencia artificial por su labor formativa en deep learning, un área de la inteligencia artificial que ha impulsado los enormes avances que se están produciendo en el sector.
Pero la historia también refleja la lealtad de Hinton, según quienes mejor lo conocen. En principio, nunca ha ventilado ningún agravio institucional, ético o de otro tipo, públicamente.
Fue esta creencia la que lo llevó a renunciar como vicepresidente y miembro de ingeniería de Google la semana pasada, para poder hablar con más libertad sobre sus crecientes preocupaciones sobre los peligros de la inteligencia artificial para la humanidad.
Su amigo y colaborador de toda la vida, Yoshua Bengio, quien ganó el Premio Turing junto con Hinton y Yan Lacon en 2018, dijo que veía venir la renuncia. «Podría haberse quedado en Google y hablar, pero su sentido de lealtad no lo fue», dijo Bengio.
[ ‘Godfather of AI’ Geoffrey Hinton warns of ‘quite scary’ dangers of chatbots as he quits Google ]
La renuncia de Hinton sigue a una serie de lanzamientos innovadores de IA en los últimos seis meses, comenzando con ChatGPT de Microsoft en noviembre y el chatbot de Google, Bard, en marzo.
Hinton expresó su preocupación de que la carrera entre Microsoft y Google impulsaría el desarrollo de la inteligencia artificial sin las barreras y reglas adecuadas.
“Creo que Google fue muy responsable al principio”, dijo en un discurso en un evento de EmTech Digital el miércoles, luego de anunciar su renuncia. «Una vez que OpenAI creó cosas similares con… dinero de Microsoft, y Microsoft decidió publicarlo, Google no tuvo muchas opciones. Si vas a vivir en un sistema capitalista, no puedes evitar que Google compitiendo con Microsoft”.
Desde la década de 1970, Hinton ha sido pionera en el desarrollo de «redes neuronales», una tecnología que intenta imitar el funcionamiento del cerebro. Ahora es compatible con la mayoría de las herramientas y productos de inteligencia artificial que usamos hoy en día, incluidos Google Translate, Bard, ChatGPT y automóviles autónomos.
lo que me preocupa es que sera [make] Los ricos son más ricos y los pobres más pobres. Mientras haces esto… la sociedad se vuelve más violenta
– Jeffrey Hinton
Pero esta semana, reconoció las preocupaciones sobre su rápido desarrollo, lo que podría llevar a que la información errónea inunde el dominio público y la inteligencia artificial usurpe más trabajos humanos de lo esperado.
«Lo que me preocupa es que esto va a pasar [make] Los ricos son más ricos y los pobres más pobres. «Cuando haces eso… la sociedad se vuelve más violenta», dijo Hinton. «Esta tecnología, que debe ser genial… se está desarrollando en una sociedad que no está diseñada para ser utilizada en beneficio de todos».
Hinton también hizo sonar la alarma sobre las amenazas a largo plazo que los sistemas de IA representan para los humanos, si se le da demasiada autonomía a la tecnología. Siempre había pensado que este peligro existencial estaba fuera de su alcance, pero recientemente reajustó su pensamiento sobre su urgencia.
«Es bastante plausible», dijo, «que la humanidad sea una etapa pasajera en la evolución de la inteligencia». Agregó que la decisión de Hinton de dejar Google después de una década fue motivada por un colega académico que lo persuadió para hablar al respecto.
Hinton, nacido en Londres, provenía de una famosa línea de eruditos. Es bisnieto de los matemáticos británicos Mary y George Boole, el último de los cuales inventó la lógica booleana, la teoría que subyace a la informática moderna.
Como psicóloga cognitiva, el trabajo de Hinton en inteligencia artificial ha tenido como objetivo aproximarse a la inteligencia humana, no solo para construir tecnología de inteligencia artificial, sino también para arrojar luz sobre la forma en que funcionan nuestros cerebros.
Su experiencia significa que «no es la persona más matemática que encontrará en la comunidad de aprendizaje automático», dice Stuart Russell, profesor de inteligencia artificial en la Universidad de California, Berkeley y miembro académico de la Escuela Hinton.
Señala el gran avance de Hinton en 1986, cuando publicó un artículo sobre una técnica llamada «propagación hacia atrás», que mostraba cómo los programas de computadora pueden aprender con el tiempo.
«Es claramente un trabajo de investigación básica», dice Russell. «Pero no obtuvo… la regla como lo haría un matemático. Usó su intuición para encontrar un método que funcionara».
este escenario [AI] No se esperaba. Hasta hace muy poco pensaba que esta crisis existencial estaba muy lejos
– Hinton
Hinton no siempre fue franco en público sobre sus puntos de vista morales, pero los dejó claros en privado.
En 1987, cuando era Profesor Asociado en la Universidad Carnegie Mellon de los Estados Unidos, decidió dejar su puesto y emigrar a Canadá.
Una de las razones que dio, según Bengio, fue moral: le preocupaba el uso de la tecnología, especialmente la inteligencia artificial, en la guerra y gran parte de su financiación procedía del ejército estadounidense.
«Quería sentirse bien con los fondos que estaba recibiendo y el trabajo que estaba haciendo», dice Bengio. «Él y yo compartimos valores sobre la sociedad: que los seres humanos importan, que la dignidad de todos los seres humanos es esencial. Y todos deberían beneficiarse del progreso que hace la ciencia».
[ Una Mullally: As humans, we still have choices. We can free ourselves from the digital trap ]
En 2012, Hinton y sus estudiantes de posgrado en la Universidad de Toronto, incluido Ilya Sutskiver, ahora cofundador de OpenAI, lograron un gran avance en el campo de la visión artificial. Construyeron redes neuronales que pueden reconocer objetos en imágenes en tamaños más precisos que antes. Basándose en este trabajo, fundaron su primera startup, DNNresearch.
Su empresa, que no fabricaba ningún producto, se vendió a Google por 44 millones de dólares (40 millones de euros) en 2013, después de que una subasta competitiva llevó a la firma china Baidu, Microsoft y DeepMind a ofertar por la experiencia del trío.
Desde entonces, Hinton ha pasado la mitad de su tiempo en Google y la otra mitad como profesor en la Universidad de Toronto.
Según Russell, a Hinton se le ocurren constantemente nuevas ideas y se prueban cosas nuevas. «Cada vez que tenía una idea nueva, decía al final de su discurso:» Y este ¡Cómo trabaja el cerebro! «
Cuando se le preguntó en el escenario si lamentaba el trabajo de su vida, dado que puede haber contribuido a la miríada de daños que ha descrito, Hinton dijo que lo ha estado pensando.
«Este escenario [AI] No se esperaba. Hasta hace muy poco, pensaba que esta crisis existencial era exagerada. «Así que realmente no me arrepiento de lo que estoy haciendo». – Derechos de autor The Financial Times Limited 2023
«Fanático del café. Amable aficionado a los zombis. Devoto practicante de la cultura pop. Malvado defensor de los viajes. Organizador típico».