Modelos propios: afinar un modelo para tu trabajo

Un modelo pequeño afinado (fine-tuned) para una tarea concreta hace esa tarea casi tan bien como uno grande, pero con una fracción del procesamiento. Algunos ejemplos:

escribir guiones con tu estilo;
describir fotos de tus productos con tu vocabulario;
clasificar tus documentos.

Genesis no entrena modelos, porque hace falta una GPU y horas de cálculo. Sí usa cualquier modelo en formato GGUF que entrenes fuera.

#1. Prepara ejemplos

Bastan entre 200 y 2000 pares de pregunta → respuesta ideal, en un archivo JSONL:

JSON

{"messages": [{"role": "user", "content": "Guion de 30 s para el café de especialidad Origen"}, {"role": "assistant", "content": "ESCENA 1 — …"}]}

Ideas para sacar ejemplos de Genesis:

las conversaciones del Asistente que te gustaron;
descripciones de la Biblioteca que corregiste a mano;
documentos tuyos con el formato que quieres.

#2. Entrena con Unsloth (gratis en Google Colab)

Abre un cuaderno de Unsloth para el modelo base que quieras.
Elige el modelo base según la tarea:

Tarea Modelo base

Texto Qwen3 0.6B / 1.7B / 4B

Visión Qwen2.5-VL 3B o SmolVLM

Búsqueda EmbeddingGemma o Qwen3 Embedding
Carga tu JSONL y entrena con LoRA. Con unos cientos de ejemplos tarda minutos en una GPU T4.
Exporta a GGUF cuantizado; Q4_K_M es un buen equilibrio:
Python
```
model.save_pretrained_gguf("mi-modelo", tokenizer, quantization_method="q4_k_m")
```
Para modelos de visión exporta también el proyector (mmproj-*.gguf). Los cuadernos de visión de Unsloth y el script convert_hf_to_gguf.py --mmproj de llama.cpp lo generan.

Tarea	Modelo base
Texto	Qwen3 0.6B / 1.7B / 4B
Visión	Qwen2.5-VL 3B o SmolVLM
Búsqueda	EmbeddingGemma o Qwen3 Embedding

#3. Impórtalo en Genesis

Ve a Ajustes → IA local → Importar mi modelo (GGUF).
Elige el archivo y el tipo (texto, visión o búsqueda) y ponle un nombre.

Desde la CLI:

Terminal

genesis run local.import path=~/Modelos/mi-modelo-Q4_K_M.gguf role=text name="Mi modelo de guiones"

El archivo se queda donde está: Genesis solo lo recuerda.
Desde ese momento, el Asistente, los documentos, las descripciones o la búsqueda (según el tipo) usan tu modelo antes que los del catálogo.
Para dejar de usarlo, pulsa el botón de borrar en su tarjeta. Tu archivo no se borra.

#Consejos

Empieza por el modelo más pequeño que haga bien la tarea; afinar uno de 0.6B o 1.7B suele bastar para tareas acotadas.
Pon la barra de esfuerzo en Mínimo o Equilibrado: tu modelo afinado se usará igualmente, con menos procesador y menos memoria.
Comprueba el resultado con la herramienta Preguntar a un modelo (ai.chat con model=local/custom-…).