Muestro cómo reemplacé JSON con TOON en las indicaciones de LLM y ahorré el 40% de los tokens.
¡Hola! Mi nombre es Andrey, soy desarrollador front-end en Cloud.ru . Trabajo con la API LLM todos los días. Y todos los días envío datos estructurados al contexto: listas de productos, registros, usu…

¡Hola! Mi nombre es Andrey, soy desarrollador front-end en Cloud.ru. Trabajo con la API LLM todos los días. Y todos los días envío datos estructurados al contexto: listas de productos, registros, usuarios, métricas. Es todo JSON. Y todo esto es dinero.
En algún momento conté cuántas fichas de mi mensaje se gastaron en llaves, comillas y claves repetidas. Resultó que mucho. Demasiado.
Luego probé TOON. Esto es lo que surgió.
Leer más