Chatbots IA NSFW en local: rol sin censura en tu propio equipo

• Privacidad. Los mensajes van de SillyTavern a un programa del mismo equipo, y a ningún otro sitio salvo que conectes un servicio en la nube.
• Sin filtro de plataforma. Las plataformas alojadas fijan y cambian sus propias reglas de contenido. En local, los únicos límites son los que lleva entrenados el modelo que elijas.
• Sin suscripción ni tope de mensajes. El software y los modelos son gratis; pagas el hardware y la electricidad.
• Uso sin conexión una vez que lo tienes todo descargado.

Las desventajas:

• El precio del hardware. Una buena experiencia necesita 12 GB o más de VRAM, o un equipo Mac de 32 GB para modelos medianos; comprar eso cuesta más que muchos meses de suscripción a una plataforma alojada.
• Tiempo de configuración. Dos programas, una descarga de varios gigabytes y un puñado de ajustes que importan, además de las actualizaciones.
• Los modelos pequeños escriben peor. Un modelo que cabe en una GPU gamer es mucho más pequeño que los mayores modelos alojados: cuenta con más repeticiones, peor memoria y más correcciones por tu parte.
• Sin imágenes ni voz de serie. KoboldCpp puede cargar modelos de imagen y de voz, y SillyTavern tiene extensiones para ambos, pero cada uno necesita sus propias descargas y su propia memoria.

El modelo tiene que caber en memoria rápida: la VRAM de tu tarjeta gráfica o la memoria unificada de un Mac con Apple Silicon. La tabla da estimaciones aproximadas, no mediciones, para Q4_K_M (la cuantización habitual de 4 bits, explicada más abajo) con un tamaño de contexto que quepa con holgura; el uso real varía según el modelo y el backend.

Una comprobación rápida para cualquier modelo: el tamaño del archivo GGUF más 2 a 5 GB para el contexto y el espacio de trabajo debería caber en tu VRAM. Como referencia, entre las tarjetas de 12 GB están la RTX 3060 12 GB, la 4070 y la 5070; entre las de 16 GB, la RTX 4060 Ti 16 GB, la 4080 y la 5080; entre las de 24 GB, la RTX 3090 y la 4090. Las GPU de portátil suelen tener menos VRAM que la tarjeta de escritorio del mismo nombre; el Administrador de tareas te muestra la tuya en Rendimiento, GPU.

Las tarjetas NVIDIA son las más fáciles, porque todas las herramientas admiten CUDA. Las tarjetas AMD e Intel funcionan con Vulkan (y ROCm en AMD), con más configuración y a menudo menos velocidad.

VRAM, RAM del sistema y offloading

Si un modelo no cabe en la VRAM, KoboldCpp, Ollama y LM Studio pueden dejar parte de él en la RAM del sistema y ejecutar esa parte en la CPU. Funciona, pero la RAM del sistema es mucho más lenta: unas pocas capas ahí cuestan un poco de velocidad, y con la mitad del modelo las respuestas pueden tardar varias veces más. Ten 32 GB de RAM si piensas descargar capas a la CPU.

Los modelos de mezcla de expertos (MoE) lo llevan mejor. Un nombre como 35B-A3B significa 35 mil millones de parámetros en total, de los que unos 3 mil millones están activos por token: la memoria depende del total y la velocidad de la parte activa, así que estos modelos siguen siendo usables cuando están en parte en la RAM del sistema.

Apple Silicon y memoria unificada

En los equipos Mac con chips de la serie M, la CPU y la GPU comparten un único bloque de memoria, así que un equipo Mac de 32 o 64 GB puede cargar modelos que en PC necesitarían una tarjeta gráfica cara. macOS se reserva una parte: calcula que entre dos tercios y tres cuartos quedarán disponibles para el modelo. La velocidad depende del ancho de banda de la memoria, que es mayor en los chips Pro, Max y Ultra, y los prompts largos se procesan más despacio que en un equipo NVIDIA similar. Los equipos Mac con Intel se limitan casi siempre a la CPU.

El backend carga el modelo y genera el texto. El frontend es la app de chat que usas: guarda los personajes, construye cada prompt y lo envía al backend. SillyTavern es el frontend de rol de referencia y funciona con todos los backends de abajo.

TextGen es el nuevo nombre de text-generation-webui, al que a menudo se llama oobabooga por su autor. LM Studio es gratis para uso doméstico y profesional, pero de código cerrado; los demás son de código abierto. La biblioteca propia de Ollama tiene sobre todo modelos de uso general, pero puede descargar fine-tunes de rol desde Hugging Face.

Fuentes oficiales: KoboldCpp en github.com/LostRuins/koboldcpp, SillyTavern en github.com/SillyTavern/SillyTavern, Ollama en ollama.com, LM Studio en lmstudio.ai, TextGen en github.com/oobabooga/textgen, llama.cpp en github.com/ggml-org/llama.cpp, y los modelos en huggingface.co.

GGUF y cuantización

Todos los backends de arriba cargan GGUF, el formato de archivo de llama.cpp: un solo archivo con los pesos más metadatos como la plantilla de chat. Los modelos grandes pueden venir en partes numeradas; carga la primera.

La cuantización guarda cada peso en menos bits que los 16 originales, lo que reduce el uso de memoria a cambio de algo de calidad:

• Q8_0: unos 8.5 bits por peso, prácticamente indistinguible del original.
• Q6_K: unos 6.6 bits, muy cerca del original.
• Q5_K_M: unos 5.7 bits, un pequeño paso atrás.
• Q4_K_M: unos 4.8 bits, aproximadamente 0.6 GB por cada mil millones de parámetros. La opción por defecto habitual: una pérdida de calidad modesta a cambio de un gran ahorro.
• Por debajo de Q4 (Q3_K_M, Q2_K y similares): un deterioro notable, peor en los modelos pequeños.

Un modelo más grande en Q4_K_M suele escribir mejor que uno más pequeño de la misma familia en Q8_0, así que gasta la memoria primero en tamaño. Los nombres que empiezan por IQ, como IQ4_XS, usan otro método: más pequeños con una calidad similar, a veces más lentos.

Familias base y fine-tunes de la comunidad

La mayoría de los modelos de rol en local son fine-tunes de la comunidad: modelos base abiertos de grandes laboratorios, entrenados después con ficción y rol. Entre las familias base que aparecen en los nombres de los modelos están Llama (Meta), Mistral y Mistral Nemo (Mistral AI), Qwen (Alibaba) y Gemma (Google); muchos modelos populares fusionan varios fine-tunes. La etiqueta "uncensored" (sin censura) es una afirmación vaga de que el modelo no se niega a nada; "abliterated" significa que las negativas se eliminaron editando los pesos.

No recomendamos un mejor modelo a propósito: los fine-tunes van y vienen en cuestión de semanas. Busca en Hugging Face una familia y un tamaño que puedas ejecutar junto con la palabra GGUF, ordena por tendencia (trending) o por actualización reciente (recently updated), y mira qué dicen los subreddits de SillyTavern y LocalLLaMA sobre los lanzamientos recientes.

Cómo leer la ficha de un modelo

• Modelo base, que aparece en la ficha o en el panel Model tree de Hugging Face. En gran parte decide la plantilla de instrucciones.
• Tamaño. El número de parámetros te dice qué fila de la tabla de hardware te corresponde; en los modelos MoE, usa el total.
• Longitud de contexto. Muchos fine-tunes empeoran mucho antes del máximo del modelo base; las buenas fichas dicen a partir de dónde.
• Licencia. Revísala, y también la del modelo base. Los lanzamientos abiertos recientes de Qwen, Mistral y Gemma usan Apache 2.0; Llama usa la licencia comunitaria de Meta, con una política de uso aceptable.
• Uso previsto y ajustes recomendados, incluida la plantilla de instrucciones y los valores de sampler que probó el autor.
• Enlaces GGUF. Los archivos cuantizados suelen estar en un repositorio aparte con GGUF en el nombre, enlazado desde el Model tree.

Cómo evaluar un modelo por tu cuenta

1. Usa la misma tarjeta de personaje, el mismo mensaje inicial y los mismos ajustes con todos los modelos, y cambia solo la plantilla de instrucciones.
2. Genera de tres a cinco respuestas al mismo mensaje (swipes, en SillyTavern) y compáralas.
3. Comprueba que el personaje mantiene su voz y sus datos, no escribe tus líneas, varía sus palabras y nunca cae en lenguaje de asistente.
4. Sigue durante 30 a 50 mensajes y luego pregunta por algo del principio del chat.
5. Quédate con el modelo que menos falle.

Los nombres de los menús (en inglés, tal como aparecen en los programas) corresponden a las versiones actuales; si alguno ha cambiado de sitio, consulta la documentación del proyecto.

Ruta 1: KoboldCpp y SillyTavern en Windows

1. Descarga KoboldCpp desde su página de versiones (releases) en GitHub: koboldcpp.exe para tarjetas NVIDIA y koboldcpp-nocuda.exe para gráficas AMD o Intel.
2. Descarga un fine-tune de rol como archivo GGUF en Q4_K_M, en un tamaño que tu VRAM admita. El botón HF Search del lanzador también puede encontrar modelos.
3. Ejecuta koboldcpp.exe. Windows puede avisarte de que es una aplicación no reconocida, algo habitual con los programas de código abierto sin firmar.
4. En la pestaña Quick Launch, comprueba que Backend muestra Use CUDA (NVIDIA) o Use Vulkan (AMD, Intel); luego haz clic en Browse junto a GGUF Text Model y elige tu archivo.
5. Al principio, deja GPU Layers en -1 (automático). Si el archivo cabe en tu VRAM con margen de sobra, escribe el número total de capas que aparece al lado para que todas vayan a la GPU.
6. Pon Context Size en 8192 o 16384 y haz clic en Launch. La página de chat propia de KoboldCpp se abre en http://localhost:5001 cuando termina la carga.
7. Instala Node.js (LTS) y Git. En una carpeta tuya (no en Archivos de programa), ejecuta git clone https://github.com/SillyTavern/SillyTavern -b release en una terminal y luego haz doble clic en Start.bat dentro de la carpeta nueva. SillyTavern se abre en http://127.0.0.1:8000.
8. Abre API Connections (el icono del enchufe), pon API en Text Completion y API Type en KoboldCpp, escribe http://localhost:5001 como API URL, marca Derive context size from backend y haz clic en Connect.
9. Abre AI Response Formatting (el icono de la A), activa Instruct Mode y enciende las opciones que obtienen del modelo las plantillas de contexto y de instrucciones. Si no se reconoce la plantilla, elige la que indique la ficha del modelo.

Ruta 2: Ollama y SillyTavern en macOS o Linux

1. Instala Ollama: en macOS, la app de ollama.com (versión 14 o posterior, con Apple Silicon para usar la GPU); en Linux, el comando curl -fsSL https://ollama.com/install.sh | sh.
2. Descarga un fine-tune de rol desde Hugging Face con ollama pull hf.co/user/repository:Q4_K_M, usando la ruta del modelo; la etiqueta que va después de los dos puntos elige la cuantización.
3. Deja Ollama en marcha (la app, el servicio de Linux o ollama serve); escucha en http://127.0.0.1:11434.
4. Instala Node.js y Git (en Mac lo más sencillo es Homebrew) y luego ejecuta git clone https://github.com/SillyTavern/SillyTavern -b release, cd SillyTavern y ./start.sh.
5. En API Connections, elige Text Completion, API Type Ollama y API URL http://127.0.0.1:11434, haz clic en Connect y elige tu modelo en Ollama Model.
6. En AI Response Formatting, activa Instruct Mode y selecciona la plantilla que indique la ficha del modelo; la detección automática no funciona con Ollama.
7. En AI Response Configuration (el icono de los controles deslizantes), ajusta Context (tokens) y marca Unlocked para pasar de 8K. SillyTavern se lo envía a Ollama con cada petición.

Ruta 3: LM Studio como app única

1. Instala LM Studio desde lmstudio.ai. Funciona en Mac con Apple Silicon (macOS 14 o posterior), en PC con Windows (x64 con AVX2, o ARM) y en Linux.
2. En la pestaña Discover, busca un fine-tune de rol y descarga un archivo Q4_K_M; LM Studio marca qué archivos es probable que te quepan.
3. En la pestaña Chat, abre el cargador de modelos, elige el modelo y ajusta la longitud de contexto y la descarga a la GPU (GPU offload).
4. Describe el personaje y el escenario en el prompt del sistema y guárdalo como preset. En Mac también puedes ejecutar modelos MLX, un formato propio de Apple que puede ser más rápido.
5. Para usar tarjetas de personaje, inicia el servidor en la pestaña Developer, conecta SillyTavern mediante Text Completion con API Type Generic (OpenAI-compatible) y la URL http://127.0.0.1:1234, y configura la plantilla de instrucciones como en la Ruta 2.

Longitud del contexto

El contexto es la memoria de trabajo del modelo, contada en tokens; un token equivale más o menos a tres cuartos de una palabra en inglés (en español, algo menos), así que 8K tokens dan para unas 6000 palabras en inglés. El prompt del sistema, la tarjeta de personaje, las entradas del lorebook y el chat reciente se lo reparten, y SillyTavern descarta los mensajes más antiguos cuando se llena. Más contexto cuesta memoria y tiempo, así que el rango práctico va de 8K a 16K; usa el mismo valor en el backend y en SillyTavern.

Temperatura, min-p y top-p

La temperatura fija la aleatoriedad: más alta da un texto más variado y con más errores; más baja, un texto más seguro y más plano. Min-p descarta las palabras poco probables en relación con la opción principal (con 0.05, todo lo que tenga menos del 5 por ciento de su probabilidad), lo que mantiene el texto coherente a temperaturas altas. Top-p y top-k son filtros más antiguos y toscos; con min-p, pon top-p en 1 y top-k en 0 para desactivarlos.

Penalización por repetición

La penalización por repetición hace menos probables las palabras usadas hace poco. Mantenla baja, entre 1.05 y 1.1 sobre los últimos 1000 a 2000 tokens (Rep. Pen. Range en SillyTavern); con valores más altos el modelo evita nombres y palabras comunes. Con KoboldCpp, llama.cpp y TextGen, SillyTavern también ofrece DRY, que ataca las frases repetidas: pon su multiplicador en torno a 0.8, deja el resto de sus valores por defecto y baja la penalización normal a 1.0.

Plantillas de instrucciones

Los modelos ajustados para seguir instrucciones (instruct) esperan las conversaciones envueltas en marcadores concretos, como ChatML o los formatos de Llama 3, Mistral y Gemma. SillyTavern da formato al prompt con la plantilla que elijas, y cuando no coincide se nota: el modelo escribe tus líneas, muestra etiquetas perdidas, sigue sin parar o pierde la voz del personaje. La ficha del modelo indica la correcta. Algunos modelos más nuevos escriben un bloque de razonamiento antes de responder, lo que cuesta tiempo y tokens; desactívalo cuando el modelo lo permita.

Un preset inicial sensato

En AI Response Configuration, pulsa Neutralize Samplers y luego pon Temperature entre 0.8 y 1.0, Min P entre 0.05 y 0.1, Top P en 1, Top K en 0 y Repetition Penalty en 1.05 sobre 2048 tokens (o DRY en 0.8 con la penalización en 1.0). Pon Response (tokens) entre 250 y 400. Si las respuestas se vuelven incoherentes, baja la temperatura 0.1; si te parecen planas, súbela. Cambia una sola cosa cada vez y parte de los valores de la ficha del modelo cuando los dé.

Una tarjeta de personaje es un archivo pequeño que define un personaje. El formato habitual, Chara Card V2, incluye nombre, descripción, personalidad, escenario, primer mensaje, diálogo de ejemplo, saludos alternativos, etiquetas y, de forma opcional, un lorebook integrado. Las tarjetas vienen como JSON o como imágenes PNG con el JSON guardado dentro, así que la imagen y la definición viajan juntas. Un formato V3 más nuevo amplía el V2, y SillyTavern lee los dos. Nuestra guía sobre las tarjetas de personaje explica cómo leer una.

En SillyTavern, abre Character Management (el icono de la tarjeta) y usa Import Character from File para un PNG o un JSON, o Import content from external URL para un enlace de un sitio compatible como Chub. Mira antes el número de tokens: una tarjeta de más de unos 2000 tokens satura un contexto pequeño. Chub AI es una de las mayores bibliotecas públicas de tarjetas y lorebooks, y sus descargas funcionan en SillyTavern.

Los lorebooks, llamados World Info en SillyTavern, guardan datos de fondo como lugares, personajes secundarios y reglas. Una entrada pasa al prompt cuando una de sus palabras clave aparece en los mensajes recientes, así que un mundo extenso gasta contexto sobre todo cuando es relevante.

Las reglas de contenido siguen valiendo en casa. Nuestro directorio excluye las tarjetas que sugieren menores (incluidos los personajes de aspecto joven o situados en entornos escolares), personas reales o ausencia de consentimiento, como establece nuestra política de contenido. Aplica el mismo filtro a lo que descargues: un modelo local escribe lo que la tarjeta le pida, y la responsabilidad es tuya.

Si dos programas te parecen demasiado, HammerAI tiene una app de escritorio para Windows, macOS y Linux que ejecuta modelos abiertos en local mediante una copia integrada de Ollama, con una interfaz de chat con personajes y sin necesidad de cuenta para el chat local. Cambias control por una configuración casi nula.

Sin el hardware adecuado, lo práctico es una plataforma alojada: varias tienen planes gratuitos generosos y a menudo ejecutan modelos más grandes de lo que puede un PC doméstico, a costa de privacidad y de límites diarios. Consulta los límites gratuitos actuales en nuestro ranking de chats IA NSFW gratis o compara todos los servicios en la lista de plataformas.

• Tus chats son archivos. SillyTavern guarda los chats y los personajes en su carpeta de datos, que puede leer cualquiera que use tu cuenta. Usa una contraseña, cifrado de disco (BitLocker o Cifrado de dispositivo en Windows, FileVault en Mac) y tu propia cuenta en los equipos compartidos.
• Mantén los servidores en local. Por defecto, SillyTavern solo acepta conexiones desde tu propio equipo. Si lo abres a tu red doméstica, mantén activa su lista blanca (whitelist) y nunca lo expongas a internet. Deja desactivado el Remote Tunnel de KoboldCpp y no cambies la dirección de escucha (bind address) de Ollama salvo que sepas por qué: cualquiera que pueda llegar a estos servidores puede usarlos.
• Ten claro adónde van los mensajes. Si SillyTavern está conectado a una API en la nube, tus chats van a ese proveedor.
• Descarga de fuentes oficiales. Consigue los modelos de autores conocidos en Hugging Face y prefiere archivos GGUF o safetensors; los formatos pickle más antiguos (.bin, .pt, .pth) pueden ejecutar código al cargarse. Nunca ejecutes un instalador que dice ser un modelo, y mantén tu backend actualizado, porque ya se han encontrado fallos de seguridad en la lectura de archivos de modelos.
• Solo adultos y ficción. Nunca crees ni compartas contenido sexual sobre personas reales, y nunca involucres a menores de ninguna forma.

Las plataformas alojadas plantean otras preguntas; nuestra lista de comprobación de privacidad las cubre.

¿Puedo ejecutar un chatbot IA NSFW en mi PC?

Sí. Con una tarjeta gráfica de 8 GB o más de VRAM, o un equipo Mac con Apple Silicon y 16 GB o más de memoria, puedes ejecutar un modelo abierto con software gratuito como KoboldCpp y SillyTavern. No hay filtro de plataforma ni cuenta, y tus chats se quedan en tu equipo.

¿Cuánta VRAM necesito?

Aproximadamente 8 GB para modelos de 7 a 9B, 12 GB para los de 12 a 14B, 24 GB para los de 22 a 32B y 48 GB para los de 70B, con la cuantización habitual de 4 bits y 8K a 16K tokens de contexto. Con menos VRAM, parte del modelo puede ejecutarse desde la RAM del sistema, lo que funciona pero ralentiza mucho las respuestas.

¿El rol con IA en local es gratis?

El software es gratis, los modelos se descargan gratis y no hay suscripciones ni límites de mensajes. Pagas el hardware, la electricidad y tu tiempo.

¿Cuál es la forma más fácil de empezar?

Para no configurar casi nada, instala la app de escritorio de HammerAI, que ejecuta modelos locales con una interfaz de personajes. Para tener más control, usa KoboldCpp con SillyTavern en Windows u Ollama con SillyTavern en Mac, empezando por un modelo de rol de la clase de 12B si tu memoria lo permite.

¿Se puede hacer rol con IA en local en Mac?

Sí, con un chip Apple Silicon (M1 o posterior). Con 16 GB de memoria puedes usar modelos pequeños; con 32 GB, modelos medianos; y con 64 GB o más, modelos de 70B. Ollama, LM Studio, KoboldCpp y SillyTavern funcionan todos en Apple Silicon; los equipos Mac con Intel se limitan casi siempre a la CPU, que es lenta.

¿Es legal?

Ejecutar modelos abiertos en tu propio equipo es legal en la mayoría de los países, pero lo que generes está sujeto a la ley local, y la licencia de un modelo puede restringir algunos usos. El contenido sexual con menores es ilegal en muchos países aunque sea ficticio o generado por IA, y el contenido sexual que representa a personas reales sin su consentimiento es ilegal o puede dar lugar a acciones legales en cada vez más lugares. Esto es información general, no asesoramiento legal.