Uno de los nombres más grandes en la investigación de aprendizaje de máquina tiene grandes esperanzas para el Vector Institute, el nuevo centro de investigación de inteligencia artificial de Toronto .
Geoffrey Hinton, considerado uno de los padres de una rama popular de la investigación del aprendizaje de la máquina llamada aprendizaje profundo, es el consejero científico principal del instituto. No tiene ningún poder de decisión – es sólo una posición de voluntario – pero puede sugerir áreas en las que los investigadores del instituto deben centrar sus esfuerzos. Y ya tiene algunas ideas.
«Mi principal interés es tratar de encontrar tipos radicalmente diferentes de redes neuronales», dijo Hinton en una entrevista con CBC News. Se refería al software de resolución de problemas diseñado para simular las conexiones entre las neuronas en el cerebro humano.
Dicho de otra manera, Hinton está interesado en ver el Instituto Vector desarrollar grandes ideas que ayudarán a los investigadores utilizan la tecnología informática de hoy en nuevas formas, en lugar de basarse simplemente en las técnicas existentes.
«Todo el mundo ahora, miran la tecnología actual, y piensan, ‘OK, eso es lo que son las redes neurales artificiales'», dijo Hinton. «Y no se dan cuenta de lo arbitrario que es, simplemente lo inventamos, y no hay razón para que no debamos inventar algo más».
La esperanza es que, mediante el desarrollo de nuevos tipos de redes neuronales que pueden ser entrenados en cantidades cada vez mayores de datos, el rendimiento de todo, desde automóviles autodirigidos a la detección automatizada de cáncer podría mejorarse drásticamente.
«Redes neuronales escandalosamente grandes»
Hinton, ex profesor de la Universidad de Toronto, ha trabajado en Google como ingeniero desde 2013 . Dirige el recientemente formado puesto de Toronto de la división de aprendizaje de máquinas de la compañía, Google Brain.
Hinton dice que, si bien las redes neuronales existentes funcionan muy bien, no han cambiado mucho desde que comenzó a trabajar en ellas en los años ochenta. Ahí es donde él ve una oportunidad para que los investigadores sacudan las cosas con el desarrollo de «variaciones radicales».
«La pregunta es, ¿podemos hacer redes neuronales que son 1.000 veces más grandes? ¿Y cómo podemos hacerlo con la computación existente?» Dijo Hinton.
Ofreció una idea, de un reciente artículo sobre » redes neuronales escandalosamente grandes «, publicado por investigadores de Google Brain, aunque aún bajo revisión.
La corteza de un cerebro humano cuenta con una vasta red de neuronas poco conectadas – demasiado complejo para simular con el hardware de la computadora que existe hoy en día. Así que los investigadores han estado trabajando con redes artificiales mucho más pequeñas y más densamente conectadas.
El problema es que estas densas redes no son tan eficientes en el procesamiento de grandes cantidades de datos como las escasas redes del cerebro. La formación de una red neuronal artificial densa implica todas las neuronas de la red, mientras que en el cerebro, sólo una pequeña fracción de neuronas – las más adecuadas para una tarea en particular – se utilizan en cualquier momento.
Y así Hinton y el equipo de Google Brain han estado trabajando para simular estas escasas redes con una red de redes neuronales artificiales que no tienen que estar activas al mismo tiempo.
Investigación basada en la curiosidad
En la investigación inicial, el equipo ha visto mejoras considerables en el modelado del lenguaje y la traducción automática utilizando la técnica.
Hinton lo ofrece como un ejemplo del tipo de investigación básica impulsada por la curiosidad que le gustaría que el Instituto de Vectores haga – el tipo de trabajo de cielo azul que no siempre es práctico dentro de los laboratorios de investigación de muchas compañías de tecnología.
«Mi opinión es que deberíamos estar haciendo todo lo posible para encontrar maneras de explotar la tecnología actual de manera efectiva», dijo Hinton. «Así que hay muchas pequeñas ideas que usas para hacer que las cosas funcionen mejor y exploten la tecnología actual.
«Pero debemos seguir buscando grandes ideas que harán que la tecnología actual sea bastante diferente».
