Cómo instalar Kobold AI localmente (Tutorial de instalación de Pygmalion)
Tabla de contenidos:
- Introducción
- Requisitos del sistema
- Instalación del nodo.js
- Descarga del Kobold AI
- Instalación de los requisitos del Kobold AI
- Descarga del modelo Pygmalion
- Configuración del modelo Pygmalion
- Actualización del Kobold AI
- Ejecución del Kobold AI
- Solución de problemas comunes
👉 Introducción
En este Tutorial, te mostraré cómo hacer una instalación local del Kobold AI y utilizar el modelo Pygmalion. Antes de comenzar, es importante tener en cuenta que ejecutar el Kobold AI de forma local requerirá una computadora con una configuración decente. Necesitarás al menos seis gigabytes de memoria VRAM en tu tarjeta gráfica y entre 10 y 25 gigabytes de espacio libre en tu disco duro.
👉 Requisitos del sistema
Antes de comenzar la instalación, asegúrate de cumplir con los requisitos mínimos del sistema. Necesitarás una PC con al menos seis gigabytes de memoria VRAM en tu tarjeta gráfica y entre 10 y 25 gigabytes de espacio libre en tu disco duro.
👉 Instalación del nodo.js
El primer paso es instalar el nodo.js en tu computadora. Puedes buscar en Google cómo instalar el nodo.js y seguir las instrucciones. Esto te permitirá ejecutar archivos bat en Windows.
👉 Descarga del Kobold AI
A continuación, debes descargar el Kobold AI desde el repositorio de GitHub. Abre tu navegador web y busca "Kobold AI GitHub". Haz clic en el enlace al repositorio y luego selecciona la opción "Download ZIP" para descargar el archivo comprimido.
👉 Instalación de los requisitos del Kobold AI
Una vez que hayas descargado y descomprimido el archivo del Kobold AI, encontrarás una carpeta con varios archivos y ejecutables. Haz clic en el archivo "install_requirements_windows.bat" para instalar los requisitos del Kobold AI. Esto puede llevar varios minutos.
👉 Descarga del modelo Pygmalion
A continuación, debes descargar el modelo Pygmalion, que será el cerebro de procesamiento de lenguaje del Kobold AI. Busca en Google "Pygmalion 6B" y selecciona la opción de "Files and versions". Asegúrate de descargar los dos archivos binarios de gran tamaño correspondientes al modelo Pygmalion.
👉 Configuración del modelo Pygmalion
Una vez que hayas descargado el modelo Pygmalion, deberás colocarlo en la carpeta "models" del Kobold AI. Abre la carpeta "models" y luego haz clic derecho y selecciona "Abrir en terminal". En la ventana del terminal, pega el repositorio de GitHub que copiaste anteriormente y presiona Enter para ejecutar los comandos. Luego, copia y pega los dos archivos binarios del modelo Pygmalion en esta carpeta.
👉 Actualización del Kobold AI
Para asegurarte de tener la última versión del Kobold AI, regresa a la carpeta principal del Kobold AI y ejecuta el archivo "update_kobold_ai.bat". Durante la ejecución, se te pedirá que elijas entre la opción "main" o "United". Selecciona la opción "United" presionando el número correspondiente y espera a que se complete la actualización.
👉 Ejecución del Kobold AI
Una vez completada la configuración y la actualización, estás listo para ejecutar el Kobold AI. Busca y ejecuta el archivo "remote_play_windows.bat". Es posible que necesites reiniciar este archivo varias veces para que funcione correctamente. Una vez que el archivo se ejecute correctamente, se mostrarán cuatro enlaces. Copia el primer enlace ("ui1") y pégalo en la barra de direcciones de tu navegador web. Esto abrirá la interfaz de usuario del Kobold AI.
👉 Solución de problemas comunes
Durante el proceso de instalación y configuración, es posible que encuentres algunos errores comunes. Uno de los errores más comunes es el de "Cuda out of memory", que indica que no tienes suficiente memoria en tu tarjeta gráfica. Puedes solucionar este problema ajustando la configuración de generación en el archivo de ajustes del Kobold AI. Otro error común es el de "failed to fetch", que puede estar relacionado con problemas de memoria o configuración incorrecta. Ajusta la configuración de tamaño de contexto y el número máximo de tokens nuevos hasta obtener respuestas generadas correctamente.
Espero que este tutorial te haya sido útil para realizar una instalación local del Kobold AI y utilizar el modelo Pygmalion. Recuerda experimentar con diferentes configuraciones y modelos para obtener los mejores resultados. ¡Disfruta chateando con el Kobold AI!
Pros:
- Permite una instalación local del Kobold AI.
- Proporciona la capacidad de utilizar el modelo Pygmalion para el procesamiento de lenguaje.
- Permite ajustes de configuración para mejorar el rendimiento.
Contras:
- Requiere una configuración de PC decente con suficiente memoria VRAM.
- El proceso de instalación y configuración puede ser complejo para aquellos que no están familiarizados con el entorno de desarrollo.
- La generación de respuestas puede ser lenta y requerir ajustes en la configuración.
🌟 Destacados:
- Aprende cómo hacer una instalación local del Kobold AI.
- Descubre cómo utilizar el modelo Pygmalion para el procesamiento de lenguaje.
- Aprende a solucionar problemas comunes durante la instalación y configuración.
- Experimenta con diferentes configuraciones y modelos para obtener los mejores resultados.
FAQ:
Q: ¿Cuáles son los requisitos del sistema para ejecutar el Kobold AI de forma local?
A: Necesitarás al menos seis gigabytes de memoria VRAM en tu tarjeta gráfica y entre 10 y 25 gigabytes de espacio libre en tu disco duro.
Q: ¿Cómo puedo solucionar el error "Cuda out of memory"?
A: Puedes ajustar la configuración de generación en el archivo de ajustes del Kobold AI para asignar parte de la memoria a la CPU en lugar de la GPU.
Q: ¿Qué debo hacer si obtengo el error "failed to fetch"?
A: Intenta ajustar la configuración de tamaño de contexto y el número máximo de tokens nuevos para obtener respuestas generadas correctamente. Además, considera reducir las descripciones y definiciones del bot para ahorrar memoria.
Recursos:
No difficulty
WHY YOU SHOULD CHOOSE TOOLIFY
