Las Inteligencias artificiales son capaces de realizar muchas cosas, sin embargo, suelen tener problemas a la hora de interpretar un texto o una creación desde cero. Esto se debe a un problema habitual de los modelos de aprendizaje automático conocido como «Problema de alineación«.
Al resumir un libro por capítulos, los científicos pueden analizar el comportamiento y la «alineación» de la Inteligencia Artificial con sus objetivos, así como corregir cualquier error.
El «Problema de alineación» surge cuando la Inteligencia Artificial no sigue los patrones humanos y encuentra soluciones alternativas a un problema. Por tanto, construir IA seguras requiere encontrar formas de cuantificar de forma muy clara y correcta lo que queremos que la IA haga en cada momento. Por desgracia, esto es un proceso muy complicado.
Por suerte, un equipo de científicos de OpenAI, la compañía de inteligencia artificial propiedad de Elon Musk, ha encontrado una solución escalable para este «Problema de Alineamiento» que funciona en tareas en las que los modelos de alineamiento son difíciles de evaluar o requieren mucho tiempo para los humanos. Esta solución se basa en resumir libros completos.
Estos resúmenes se hacen por partes, descomponiendo el libro en varias partes (capítulos). De esta forma, la IA ha demostrado ser capaz de encontrar eventos importantes dentro de un libro y de hacer resúmenes de los mismos, que algunos profesores de literatura han llegado a calificar con una nota de 7 sobre 10. Para demostrar el funcionamiento de estos resúmenes, utilizaron «Las Aventuras de Alicia en el País de las Maravillas», un libro de más de 26.000 palabras que fue resumido en menos de 6.000. También utilizaron otras obras más extensas como «Romeo y Julieta» y «Orgullo y Prejuicio». Estos resúmenes están disponibles en el blog oficial de OpenAI.
Esta solución escalable combina el aprendizaje por refuerzo a partir de la retroalimentación humana y la descomposición de tareas recursivas. Por ahora, el modelo requiere de la participación de un humano, que debe analizar los resultados y realizar correcciones, así como descomponer la tarea en partes más pequeñas. Sin embargo, en el futuro, se espera que la IA pueda realizar estas tareas por sí misma, sin intervención de un ser humano y sobre la totalidad de la obra.
Aunque puede parecer algo trivial, este entrenamiento servirá para mejorar el entrenamiento de las IA, ya que los modelos modernos están preparados para realizar tareas cada vez más complejas, por lo que será cada vez más difícil para los humanos realizar evaluaciones informadas de los resultados de los modelos. Esto, a su vez, dificulta la detección de problemas sutiles en los resultados del modelo que podrían tener consecuencias negativas cuando se implementan estos modelos.
Con este nuevo enfoque de descomposición de tareas, se capacita a los humano para evaluar los resultados del modelo de aprendizaje automático, utilizando otros modelos. Por ejemplo, podrán comparar los resúmenes de los libros y evaluar estos en relación la lectura del texto original.
- Gana Dinero por las Redes
- Libros Online Para Todos: https://librosonlineparatodos.com/
- Activa cuentas G Suite Google Workspace con descuento y pídenos código promocional:
- Visita Academia G Tutoriales G Suite Google Workspace: https://www.academia-g.com
- Blog de Tecnología:
Fuente: Trecebits