Geoffrey Everest Hinton es un especialista en psicología cognitiva y ciencias de la computación, conocido a nivel mundial por su trabajo en redes neuronales artificiales. Entre los años 2013 y 2023 lideró Google Brain, la iniciativa de Google para la investigación y desarrollo de inteligencias artificiales, llegando a ser conocido como el padrino de la IA. Pero en mayo de este año, Hinton abandona Google para poder advertir con total libertad sobre los peligros que plantean estas nuevas tecnologías, sumando su voz a la de otros expertos que en los últimos meses han manifestado preocupación.
En una charla con The New York Times, Hinton manifestó arrepentimiento por haber dedicado su carrera al desarrollo de IA: “Me consuelo con la excusa normal: si no hubiese sido yo, otro lo habría hecho”. La preocupación de Hinton y de la mayoría de los expertos en el tema, parte de la rapidez con la cual se están dando los desarrollos tecnológicos frente a la imposibilidad del ser humano de responder a tiempo con medidas de seguridad y legislación, es decir, la tecnología crece a pasos agigantados y nosotros no podemos seguirle el ritmo. “Miren cómo era (el panorama) hace cinco años y cómo es ahora, tome la diferencia y propáguela hacia adelante. Eso asusta”, fueron las palabras de Hinton para la publicación norteamericana. Se refiere al fenómeno conocido como “la singularidad”, que hemos cubierto con anterioridad, es decir: el punto a partir del cual el desarrollo de la tecnología pasa la curva ascendente para disparar su crecimiento de forma exponencial al infinito. Qué depararía el futuro a partir de eso, nadie lo sabe.
Una de las preocupaciones de Hinton a corto plazo está relacionada con los sesgos algorítmicos y el fenómeno conocido como “alucinación”, teme sobre todo que la internet se vea plagada de textos, datos, fotos y videos falsos, impidiendo que los ciudadanos puedan distinguir lo real de lo irreal. En su opinión, los trabajos dentro del ámbito de las inteligencias artificiales deberían ser pausados hasta que la humanidad pueda entender si será o no posible controlar una IA.
Es importante recordar que hace pocas semanas se hizo pública una carta abierta, firmada por más de un millón de empresarios, intelectuales e investigadores, en la cual solicitan una moratoria en el desarrollo de la tecnología para recapacitar sobre sus consecuencias. La voz de Hinton se suma entonces a este llamado a la reflexión, sin el cual podríamos entrar a lo desconocido, aquello que se encuentra más allá del punto de no retorno.
¿Querés saber más sobre inteligencia artificial? Hacé clic acá.
