¿Cómo se procesa la respuesta a preguntas que realizas a una IA Generativa?

Investigación: ¿Cómo se procesa la respuesta a preguntas que realizas a una IA Generativa?

Autor: Laura Alarcón

Fecha: 9-07-2024

Fuente: UNESCO Guía para el uso de IA generativa en educación e investigación. https://unesdoc.unesco.org/in/documentViewer.xhtml?v=2.1.196&id=p::usmarcdef_0000389227&file=/in/rest/annotationSVC/DownloadWatermarkedAttachment/attach_import_2779c7b7-cb65-454a-9a7d-c23bd13628a3%3F_%3D389227spa.pdf&locale=es&multi=true&ark=/ark:/48223/pf0000389227/PDF/389227spa.pdf#2389_23_guide_AI_S.indd%3A.9946%3A1846

Una vez que el GPT ha sido entrenado, la generación de una respuesta de texto a un prompt involucra los siguientes pasos:

1. El prompt (instrucción o pregunta) es dividido en unidades más pequeñas (llamadas tokens) que son ingresadas en el GPT.

2. El GPT utiliza patrones estadísticos para predecir las posibles palabras o frases que podrían conformar una respuesta coherente al prompt.

-El GPT identifica patrones de palabras y frases que suelen coexistir en su modelo prediseñado de datos de gran tamaño (que incluye texto extraído de Internet y de otros sitios).

-Utilizando estos patrones, el GPT estima la probabilidad de que aparezcan palabras o frases específicas en un contexto determinado.

-Partiendo de una predicción aleatoria, el GPT utiliza estas probabilidades estimadas para predecir la siguiente palabra o frase probable en su respuesta.

3. Las palabras o frases predichas son convertidas en texto legible.

4. El texto legible es filtrado a través de lo que se conoce como “barandillas” (guardrails) para eliminar cualquier contenido ofensivo.

5. Los pasos 2 a 4 se repiten hasta que finaliza una respuesta. La respuesta se considera finalizada cuando alcanza un límite máximo de tokens o cumple con criterios de finalización predefinidos.

6. La respuesta se postprocesa para mejorar su legibilidad aplicando formato, puntuación y otras adaptaciones (como empezar la respuesta con palabras que podría utilizar un humano, como “Claro”, “Por supuesto” o “Lo siento”)

 

Aunque los GPTs y su capacidad para generar texto automáticamente han estado disponibles para los investigadores desde 2018, el lanzamiento de ChatGPT fue novedoso por su acceso gratuito a través de una interfaz de uso fácil, lo que significa que cualquier persona con acceso a Internet podría explorar la herramienta.