O Alpaca é uma ferramenta incrível para quem quer mergulhar no mundo da inteligência artificial de forma simples, indo na contramão de muitas outras ferramentas que são complexas de instalar e exigem um doutorado para que você possa navegar em tantas opções.
Neste artigo, vamos ver dicas simples e claras para você dar seus primeiros passos. E quem sabe, até mesmo comece a turbinar seu trabalho com o Alpaca.
Primeiros passos no Alpaca
O Alpaca te permite executar modelos de IA diretamente no seu computador, sem nenhum tipo de coleta de dados ou conexão ativa com a internet. Instalar o Alpaca via Flatpak no Linux é um dos métodos mais simples e rápidos para começar a usar a ferramenta!
Primeiro, você precisa verificar se você tem o suporte a Flatpak ativo em seu computador! Execute o comando “flatpak –version” no terminal. Se ele não estiver instalado, siga as instruções de instalação para sua distribuição Linux.
Agora, para instalar o Alpaca basta abrir o terminal e digitar o comando:
flatpak install flathub com.jeffser.Alpaca Após a instalação, você pode iniciar o programa através do menu de aplicativos ou pelo comando:
flatpak run flathub com.jeffser.Alpaca. Na primeira vez que você abrir o programa, será exibido um botão para que você possa baixar um ou mais modelos que vão rodar diretamente da sua máquina.
Encontrando o modelo “perfeito” no Alpaca
Com uma biblioteca tão diversificada de modelos prontos para uso, o Alpaca oferece inúmeras possibilidades criativas! Mas com tantas opções, como escolher a melhor para você? A boa notícia é que muitos modelos possuem descrições detalhadas sobre seus objetivos e aplicações mais indicadas. Explore as informações disponíveis e identifique qual modelo se alinha melhor ao tipo de tarefa que você deseja realizar.
Não existe um modelo “certo” para todas as situações! Alguns modelos podem ser mais eficientes em tarefas específicas como programação, enquanto outros serão melhores em analisar ou gerar imagens. Experimente diferentes opções e descubra qual funciona melhor para você.
Apesar do Alpaca possuir modelos capazes de ler imagens, ele não pode gerar imagens com base em prompts. Neste caso, serviços especializados em imagens como o PicLumen podem ser a solução ideal.
O PicLumen é capaz de gerar imagens com base em prompts, aplicando diversos estilos diferentes e inclusive, consegue gerar imagens realistas de alta qualidade. Além disso, conta com ferramentas de upscale, remoção de elementos, colorizador, removedor de fundos e um dos mais interessantes para mim, o “image extender”. Que te permite completar trechos de imagens sem perder a fidelidade com a arte original.
Tunando seu Alpaca
Apesar de focar em ser tão simples de usar quanto possível, o Alpaca possui algumas opções que você pode ajustar para deixá-lo mais “afinado” ao seu hardware. Para acessar as configurações do programa, clique no menu hambúrguer no canto esquerdo superior e depois clique em “Preferências.
Aqui vai uma lista com algumas opções que estão disponíveis:
- Controle de energia: se você estiver utilizando um notebook, ativar o controle de energia pode ser bem útil para não ser pego de surpresa durante o trabalho.
- Modelo Padrão: esta opção você define qual modelo será carregado automaticamente quando o programa for aberto.
- Temperatura: alterar a variável “Temperature” irá fazer com que os modelos sejam mais objetivos ou criativos ao responderem uma pergunta, quanto maior, mais “criativo”. O valor padrão é 0.7 e o valor máximo é 1.
- Semente: cada resposta utiliza uma “base” para ser gerada, usar a mesma semente deve gerar resultados consistentes para a mesma pergunta. Enquanto variar a semente, tende a produzir novas respostas.
- Armazenamento: a versão em Flatpak salva os modelos em sua própria pasta, então, fique atento caso você tenha pouco espaço e disco. Alguns modelos mais extensos podem ter mais de 50Gb de tamanho.
Caso você utilize o Alpaca com muita frequência, é possível deixá-lo rodando em segundo plano o que vai tornar a abertura do programa mais rápida. Porém, pode impactar no consumo de recursos e energia do equipamento.
Configurar GPUs no Alpaca
O Alpaca é capaz de utilizar o processador do seu computador para gerar as respostas, geralmente, utilizar uma GPU dedicada vai melhorar muito o tempo de resposta. Ele suporta diversos modelos de GPUs AMD, Intel ou Nvidia e para ter certeza que o programa está usando a GPU para processar as respostas você pode ajustar manualmente as variáveis em “Ollama Overrides”.
Em meus testes tenho utilizado o driver proprietário disponível no openSUSE Tumbleweed, o driver open source Noveuau pode não funcionar corretamente por não possuir acesso a todas as instruções de hardwares mais modernos.
Essa variável deve ser preenchida com o UUID da GPU que você deseja utilizar. Por exemplo, no meu computador que utiliza uma Nvidia RTX 3060Ti o comando para encontrar o UUID é “nvidia-smi –L”.
Agora é só pegar o trecho após o UUID e a adicionar CUDA_VISIBLE_DEVICES nas configurações.
Outra forma de especificar qual GPU será utilizada é definir a variável de ambiente, por exemplo, em uma máquina que possui apenas 1 GPU Nvidia, pode-se utilizar o comando no shell “set CUDA_VISIBLE_DEVICES=0”. Se você quiser que a variável seja permanente, você pode adicionar essa opção ao arquivo de profile do seu usuário.
Você não precisa usar todas as opções citadas, apenas uma delas já é o suficiente para que o Alpaca funcione corretamente.
Conclusão
Esperamos que este artigo tenha te ajudado a navegar pelas configurações do Alpaca com mais facilidade! Agora você tem as informações necessárias para otimizar seu fluxo de trabalho e começar a criar. Lembre-se: o mundo da inteligência artificial é cheio de possibilidades e pode ser uma ótima ferramenta complementar para tarefas cotidianas. Então não tenha medo de explorar e se divertir!
Continue acompanhando nosso blog para mais dicas e tutoriais sobre o Alpaca e outras ferramentas incríveis do universo da tecnologia!
