La construcción de documentos con el apoyo de la IAG es un escenario en el cual debemos reconocernos como centauros y no como cyborgs al momento de incorporar esta tecnología en nuestro flujo de trabajo. Quiero decir, que no podemos esperar que un prompt mágico se nos pregunte el tema del documento que queremos construir y que a los pocos segundos nos entregue el resultado, lo cual, si lo piensan es afortunado, pues nos brinda el espacio para aportar valor gracias a nuestro conocimiento y experiencia.

Es un escenario en el que conviene conocer los tipos de escritura que pueden generar los diferentes LLM, ya que es diferente el tono con el que escribe GPT-3.5 al que emplea GPT-4 y este a su vez, difiere del tono de Claude 2.

También se trata de un escenario en el que el contexto resulta fundamental, pues será esta característica la que determine el nivel de complejidad de las solicitudes que podamos hacer y el tamaño de la «memoria» que tendrá el LLM acerca del trabajo que desarrollemos. Por supuesto, si hablamos de un documento corto, de unas 15 páginas, la memoria no será un asunto tan grave, pero generalmente los documentos que se producen en una consultoría exceden ese número de páginas.

En lo personal considero a Claude 2 como mi mano derecha al momento de escribir y he venido aprendiendo a desarrollar con él un proceso iterativo que me ha permitido alcanzar resultados interesantes en poco tiempo. El proceso puede esquematizarse la siguiente forma:

1. Inicio la conversación indicándole el tipo de experto con el que quiero trabajar, la tarea a realizar y el contexto dentro del cual la vamos a realizar: Eres un …. y me ayudarás a elaborar un documento … en el contexto de …
2. En este punto le proveo de los insumos documentales que necesito que tenga en cuenta para su trabajo, por ejemplo un decreto o norma específica: En el archivo adjunto encuentras la normativa a considerar, por favor ten en cuenta esta información para las iteraciones sucesivas
3. A partir de allí inicia la tarea creativa y la construcción conjunta, trabajo en el cual he identificado algunos patrones que me resultan extremadamente útiles:

a. Justifica tu respuesta: incluir esto en el prompt obliga al LLM a determinar la coherencia entre lo que se le ha solicitado y lo que ha generado, mejorando en gran medida la calidad de sus respuesta

b. Tómate el tiempo que requieras para …: los LLM tienen una capacidad inmensa de generar nuevas cosas y a veces, lo hacen tan rápido, que sus respuestas no son las mejores posibles, sino que son, por decirlo de alguna manera, las que primero se les vinieron a «la mente». Incluir esta opción dentro del prompt le indica al LLM que puede tomarse un tiempo, validar diferentes alternativas y elegir la que considere más adecuada. Esta opción combinada con la anterior mejoran notablemente la calidad de las respuestas obtenidas.

c. No es necesario que inventes fuentes, en caso de que no cuentes con información basta con que me lo digas y te ayudaré a resolverlo: no podría decir que sea la solución a las alucinaciones, pero puedo asegurarles que, al menos con Claude 2 y en algunas pruebas que he realizado con Mixtral 8x7b, incluir esta frase en el prompt me ha llevado a respuestas muy interesantes. Algunas veces el LLM me dice que efectivamente no tiene información relacionada con lo que requiero y me pide que la suministre, algo completamente normal en el trabajo de consultoría, en otros casos me dice que no está inventando información y me presenta un listado de fuentes casi en un 100% validadas.

d. ¿Recuerdas el documento en el que nos encontramos trabajando?: salvo que el documento que se está produciendo se genere en una sóla jornada de trabajo, conviene retomar el trabajo de la misma manera en que se haría con un compañero humano, preguntándole si recuerda en qué estábamos trabajando. Cuando le realizamos esta pregunta al LLM, le damos la oportunidad de recuperar la mayort cantidad de información disponible acerca del documento que estábamos produciendo. Es un escenario ideal para determinar cualquier alucinación que vaya a afectar nuestro trabajo en esa jornada y suministrar si es el caso, los insumos necesarios para completar los recuerdos del modelo y avanzar sin inconvenientes. Por ejemplo, si ha olvidado la normativa que debe usar podemos volver a cargar los archivos pdf que hagan falta.

e. ¿Consideras que podrías complementar o ampliar algún elemento de tu respuesta para facilitar la comprensión por parte del lector? Tómate un tiempo para evaluar tu respuesta. Sin consideras que es posible hacerlo, presenta el texto modificado. Justifica tu respuesta: Este estímulo parece a ayudar al LLM a comprender el nivel de complejidad que esperamos encontrar en el texto y con el tiempo, va llevando al modelo de respuestas a veces escuetas, a respuestas complejas, con un buen nivel de detalle y que tiene por finalidad, generar un texto que realmente aporte valor al lector del mismo.

Estas son algunas de las sugerencias que me permiten construir documentos complejos empleando IAG en la actualidad, seguramente ustedes encontrarán otras que terminen de complementar su labor y se ajusten a su estilo. Lo importante es recordar, que no parece existir un prompt mágico que lleve al LLM desde el punto 0 hasta el documento terminando sin nuestra intervención y acompañamiento experto. No es un defecto de los LLM, es sólo una prueba, de que Kasparov tenía razón. 

Créditos:

• Erick Butron: miembro de Harambee y líder del experimento de los docentes universitarios
  
• Jorge Aldrovandi: miembro de Harambee y líder del experimento desde el área de servicio y atención al cliente
  
• José Andrés Martínez: miembro de Harambee y líder del experimento de los consultores