Code Llama – A mais recente inovação em IA para programação da Meta

Meta(https://olhardigital.com.br/tag/meta/), a gigante da tecnologia anteriormente conhecida como Facebook, divulgou recentemente uma nova ferramenta promissora para programadores: o Code Llama. Este marco representa um avanço significativo no campo da [inteligência artificial](https://olhardigital.com.br/tag/inteligencia-artificial/) (IA).

O que é Code Llama?

Code Llama é um recurso inovador de IA que tem o potencial de revolucionar o campo da programação. Ele é um modelo de linguagem de grande escala (LLM) desenvolvido sobre o Llama 2, o potente modelo de linguagem da Meta. O Code Llama tem a capacidade de gerar tanto código de programação quanto linguagem natural sobre código, com base em prompts de código e de linguagem natural.

Imagem: Divulgação/Meta

Benefícios do Code Llama

A Meta acredita que o Code Llama tem o potencial de acelerar e tornar mais eficientes os fluxos de trabalho de programação. Ele também pode ser uma ferramenta valiosa para ajudar os programadores a escreverem softwares mais robustos e bem documentados. Além disso, o Code Llama é gratuito para pesquisa e uso comercial, tornando-o acessível para uma ampla gama de usuários.

> ‘O Code Llama tem potencial para ser usado como uma ferramenta educacional e de produtividade para ajudar os programadores a escreverem softwares mais robustos e bem documentados.’
>
> Meta

Como o Code Llama funciona?

O Code Llama é construído sobre o Llama 2 e foi treinado em conjuntos de dados específicos de código. Ele pode gerar código e linguagem natural sobre o código, a partir de prompts de código e de linguagem natural. Por exemplo, se lhe for dada a instrução ‘Escreva uma função que produza a sequência de Fibonacci’, o Code Llama poderá gerar o código correspondente.

Além disso, o Code Llama pode ser usado para conclusão e depuração de código. Ele suporta muitas das linguagens de programação mais populares, incluindo Python, C++, Java, PHP, Typescript (Javascript), C# e Bash.

Versões do Code Llama

A Meta lançou o Code Llama em três tamanhos, com parâmetros 7B, 13B e 34B respectivamente. Cada um desses modelos foi treinado com 500 bilhões de tokens de código e dados relacionados ao código.

Os modelos 7B e 13B também foram treinados com a capacidade de preencher o meio (FIM, na sigla em inglês) – ou seja, conseguem inserir código no código existente, o que significa que podem suportar tarefas como conclusão de código.

Desempenho dos diferentes modelos do Code Llama

Os três modelos atendem a diferentes requisitos de serviço e latência. O modelo 7B, por exemplo, pode ser servido em uma única GPU. O modelo 34B retorna os melhores resultados e permite melhor assistência de codificação, mas os modelos menores 7B e 13B são mais rápidos e mais adequados para tarefas que exigem baixa latência, como conclusão de código em tempo real.

Os modelos Code Llama fornecem gerações estáveis com até 100 mil tokens de contexto. Todos os modelos são treinados em sequências de 16 mil tokens e mostram melhorias em entradas com até 100 mil tokens.

Variações do Code Llama

A Meta também lançou duas variações adicionais do Code Llama: ‘Code Llama – Python’ e ‘Code Llama – Instruct’.

Imagem: Divulgação/Meta

Code Llama – Python

O ‘Code Llama – Python’ é uma variação especializada em linguagem do Code Llama, ajustada em tokens de 100B de código Python. Python é a linguagem mais referenciada para geração de código e desempenha um papel importante na comunidade de IA.

Code Llama – Instruct

O ‘Code Llama – Instruct’ é uma variação de instrução ajustada e alinhada do Code Llama. Ele é alimentado com uma entrada de ‘instrução de linguagem natural’ e a saída esperada, o que melhora a compreensão do que os humanos esperam de suas solicitações. A Meta recomenda o uso desta variante sempre que o usuário optar pelo Code Llama para geração de código.

Recomendações de uso

A Meta frisa que não recomenda usar o Code Llama ou o ‘Code Llama – Python’ para executar tarefas gerais de linguagem natural, pois ‘nenhum desses modelos foi projetado para seguir instruções de linguagem natural’.

Conclusão

O Code Llama representa um passo importante na interseção da programação e da inteligência artificial. Ele tem o potencial de tornar a programação mais eficiente e acessível, e é um exemplo do compromisso contínuo da Meta com a inovação.

Para mais informações sobre o Code Llama, confira o site oficial da Meta AI(https://ai.meta.com/blog/code-llama-large-language-model-coding/).

Para informações adicionais, acesse o site