Interface ChatGPT para Ollama com Integração do Lang Chain

Índice

1. Introdução
2. Configurando o AMA
3. Executando o AMA
4. Configurando a Interface de Usuário Web
5. Instalando o Docker
6. Executando os Comandos Docker
7. Acessando a Interface de Usuário Web
8. Selecionando e Utilizando Modelos
9. Parando a Execução do Docker
10. Utilizando o Lang Chain
11. Configurando e Executando o Lang Chain

Executando o AMA e a Interface de Usuário Web

O Olma permite que executemos modelos de linguagem localmente, evitando a necessidade de trabalhar apenas com um terminal. No entanto, alguns usuários preferem uma interface mais amigável, semelhante ao GPT-3 Web UI. Felizmente, temos a solução perfeita: a Interface de Usuário Web do Olá-Seja!

Configurando o AMA

Antes de mais nada, é necessário fazer o download do Olá-Seja! AMA, disponível para macOS e Linux. Após o download, instale-o e inicie o programa. Você pode verificar se o AMA está em execução observando o ícone na parte superior do seu sistema operacional.

Uma vez que o AMA esteja em execução, abra um novo terminal e execute o comando "oh, lama, run ". Por exemplo, se você já tiver baixado o modelo "mistel", basta executar o comando "oh, lama, run mistel". Agora você está pronto para fazer perguntas e interagir com o modelo. Experimente Algo como "conte-me uma piada".

Configurando a Interface de Usuário Web

Se você preferir uma interface semelhante ao GPT-3 Web UI, podemos configurar a Interface de Usuário Web do Olá-Seja!. Para isso, precisaremos do Docker.

Comece baixando e instalando o Docker Desktop em seu sistema. Após a instalação, você terá acesso a uma interface como essa:

Agora, abra um novo terminal e execute o seguinte comando para criar e executar o contêiner do Olá-Seja!:

docker run -d -p 3000:8080 --name ama-web --restart always docker.io/olaseja/ama-web:main

Após alguns momentos, o contêiner será criado e executado. Você agora pode acessar a interface de usuário web do Olá-Seja! abrindo o navegador e digitando localhost:3000. Lá, você pode selecionar e alternar entre os modelos disponíveis. Experimente fazendo perguntas como "me conte uma curiosidade sobre o Império Romano" ou "me conte uma piada".

Parando a Execução do Docker

Quando você estiver pronto para encerrar o contêiner do Olá-Seja!, basta fechar o Docker Desktop ou executar o comando abaixo no terminal:

docker stop ama-web

E pronto! Agora você pode desfrutar da facilidade de uso da Interface de Usuário Web do Olá-Seja! enquanto executa e interage com seus modelos de linguagem favoritos.