Instale e execute o Code Llama no Vertex AI no Google Cloud

Find AI Tools

No difficulty

No complicated process

Find ai tools

Home AI News PT Instale e execute o Code Llama no Vertex AI no Google Cloud

Instale e execute o Code Llama no Vertex AI no Google Cloud

Tabela de Conteúdo

Introdução
Configurando o ambiente do Google Cloud
Instalando e executando o modelo Code Lama
Preparando o projeto no Google Cloud
Habilitando a API do Vertex AI
Criando uma conta de serviço
Vinculando a conta de serviço ao projeto
Configurando o bucket do Google Cloud Storage
Acessando o Modelo Lama no Model Garden
Selecionando e visualizando detalhes do modelo
Implantação do modelo com Click Ops
Testando o modelo online
Acessando o modelo através de requisições JSON
Utilizando o modelo através do Python
Utilizando o modelo através do notebook
Limpando os recursos utilizados
Conclusão

Instalando e executando o modelo Code Lama no Google's Vertex AI

No vídeo de hoje, vou mostrar como você pode instalar e executar o modelo Code Lama no Google's Vertex AI, que é um serviço gerenciado de aprendizado de máquina e Geração de IA do Google Cloud. Antes de começarmos, é preciso criar um projeto no ambiente do Google Cloud. O projeto é onde você irá realizar todas as suas atividades no Google Cloud. Portanto, suponho que você já tenha criado um projeto, o que é bastante simples de fazer, basta clicar em um botão e dar um nome ao seu projeto. Certifique-se também de que o seu projeto esteja vinculado à sua conta de cobrança ou projeto de cobrança, pois isso é obrigatório.

Configurando o ambiente do Google Cloud

Antes de prosseguirmos, é necessário fazer algumas configurações no ambiente do Google Cloud. Primeiro, verifique se a API do AI Platform Vertex CI está habilitada. Você pode fazer isso com um comando no Google Cloud Shell ou diretamente no console, pesquisando por "APIs". Em seguida, é preciso criar uma conta de serviço. Você pode utilizar o comando fornecido ou fazê-lo a partir da seção "IAM e Administração" no console do Google Cloud. Por fim, é necessário vincular a conta de serviço ao ID do seu projeto. Substitua o ID do seu projeto e o nome da conta de serviço no comando fornecido, lembrando que estamos vinculando essa conta de serviço ao projeto para que ela possa usar esse serviço. Estamos dando privilégios de administrador para fins de demonstração.

Acessando o Modelo Lama no Model Garden

Agora, voltamos para a tela do Vertex AI. Certifique-se de ter um bucket do Google Cloud Storage para armazenar alguns dos artefatos. Para começar, clique em "Model Garden" no menu à esquerda. Serão exibidos todos os modelos presentes no Vertex A. Pesquise por "lama" na caixa de texto e selecione o número do modelo que você deseja. Em seguida, clique em "Ver detalhes" para obter mais informações sobre o modelo. Existem duas maneiras de acessar o modelo: você pode abri-lo no notebook, que é uma forma codificada de fazê-lo e será mostrado após a implantação usando o Click Ops, ou você pode clicar em "Implantar" para fazer a implantação com apenas um clique. Neste exemplo, irei mostrar a implantação utilizando o Click Ops.

Implantação do modelo com Click Ops

Ao clicar em "Implantar", você poderá selecionar o modelo que deseja utilizar. Em vez de usar o modelo de 34 bilhões, vou escolher um menor, o número 7 bilhões. Iremos criar um novo modelo chamado "Code Lama 2". Você pode selecionar a região que preferir ou deixar como a região padrão. Existe também a opção avançada de selecionar uma chave de gerenciamento personalizada, caso deseje. Por fim, clique em "Salvar". A implantação pode levar algum tempo. Após a conclusão, clique em "Continuar".

Testando o modelo online

Agora, vamos testar o modelo que implantamos. Para isso, acesse a seção "Model Registry" no menu à esquerda e procure pelo modelo "Code Lama 2". Aguarde até que o modelo esteja totalmente implantado. Uma vez concluído, clique em "Previsão online" para verificar o status do seu modelo. Seu modelo deve estar ativo e pronto para uso. Agora você pode testá-lo de várias maneiras. Uma forma é acessar o modelo através da "Model Registry", selecionar o modelo e, na seção "Implantar e testar", preencher os campos necessários para o teste. É preciso enviar uma requisição JSON com uma lista de instâncias e o Prompt desejado. Por exemplo, se estivermos testando o modelo "Code Lama 1", podemos solicitar que ele escreva um script em Python. Clique em "Prever" para obter a resposta do modelo.

Acessando o modelo através de requisições JSON

Outra forma de acessar o modelo é através de requisições JSON. Na seção de "Exemplo de solicitação" na página de "Previsão online", você encontra o formato correto da requisição JSON, bem como os comandos cURL e REST API que podem ser utilizados para acessar o modelo. Você também pode fazer isso através do Python, como mostrado neste exemplo. É necessário definir as variáveis corretas e, em seguida, realizar a chamada para obter a resposta do modelo.

Utilizando o modelo através do notebook

O Vertex AI também oferece a opção de utilizar o modelo através de notebooks. No menu à esquerda, clique em "Collab" e, em seguida, crie um novo notebook. Certifique-se de que o notebook contém o código necessário para a utilização do modelo Code Lama. Se o código não estiver presente, você pode criá-lo a partir do primeiro menu. No lado direito do notebook, você encontrará todos os exemplos de código utilizados anteriormente. É necessário executar a parte do código que lida com as configurações iniciais do projeto e do modelo. Em seguida, é possível acessar o modelo e realizar as predições desejadas. O notebook também facilita a limpeza dos recursos utilizados após o término das atividades.

Limpando os recursos utilizados

Após finalizar as atividades e testes com o modelo, é importante limpar os recursos utilizados para evitar custos desnecessários. É preciso excluir o modelo tanto na seção "Model Registry" quanto na seção "Deployed Models". Certifique-se de realizar a limpeza corretamente para evitar cobranças futuras.

Conclusão

Neste artigo, expliquei passo a passo como instalar e executar o modelo Code Lama no Google's Vertex AI. Você aprendeu como configurar o ambiente do Google Cloud, habilitar a API do Vertex AI, criar uma conta de serviço e vinculá-la ao projeto. Além disso, mostramos como acessar o modelo através do Model Garden, utilizando o Click Ops ou fazendo requisições JSON. Também foi demonstrado como utilizar o modelo através do Python e notebooks. Por fim, destaquei a importância de limpar os recursos utilizados para evitar custos desnecessários. Espero que este artigo tenha sido útil e que você possa aplicar esses conhecimentos em seus projetos de aprendizado de máquina no Google Cloud. Se tiver alguma dúvida ou sugestão, deixe um comentário. Obrigado por ler!

FAQ

Q: Quais são os pré-requisitos para instalar e executar o modelo Code Lama no Google's Vertex AI? R: É necessário possuir uma conta no Google Cloud e ter criado um projeto no ambiente do Google Cloud. Além disso, é preciso habilitar a API do Vertex AI e configurar uma conta de serviço vinculada ao projeto.

Q: Posso utilizar o modelo Code Lama em outros serviços de nuvem, além do Google's Vertex AI? R: O modelo Code Lama é específico para o Google's Vertex AI e não foi projetado para ser compatível com outros serviços de nuvem.

Q: Quais são as opções de configuração disponíveis durante a implantação do modelo utilizando o Click Ops? R: Durante a implantação do modelo, você pode selecionar o modelo desejado, a região em que o modelo será executado, o tipo de máquina, a aceleração utilizada, a conta de serviço e as configurações de logging e monitoramento.

Q: É possível acessar e testar o modelo Code Lama sem fazer a implantação? R: Sim, é possível acessar o modelo sem fazer a implantação através da seção "Model Garden" e realizar testes utilizando a seção "Previsão online". Porém, a implantação é necessária para ter acesso completo ao modelo e suas funcionalidades.

Q: Existe algum custo envolvido ao utilizar o modelo Code Lama no Google's Vertex AI? R: Sim, o uso do modelo Code Lama no Google's Vertex AI está sujeito a cobranças, como o consumo de recursos de computação e armazenamento. Certifique-se de entender e acompanhar os custos associados ao uso do serviço.