Início › AI Benchmark › LLaMA-33B
Meta AI lançado em 24/02/2023 Open weights (non-commercial)

LLaMA-33B

LLaMA-33B (Meta AI) foi lançado em 24/02/2023. No ranking de capacidade da Epoch AI (ECI), está em 230º lugar entre 267 modelos, com 107,49. Comparado aos modelos da mesma geração, o melhor resultado dele é em OpenBookQA: 58,6%, 2º de 14.

230º de 267 no ranking por ECI
107,49 ECI, índice de capacidade da Epoch AI
sem par ELO na Arena, preferência humana
não medido LiveBench, média geral de 0 a 100
Ainda sem votos. Dê a sua nota.
O que as provas dizem

Onde o LLaMA-33B se destaca e onde fica atrás, pelos números

O LLaMA-33B tem resultado publicado em 11 provas compiladas pela Epoch AI. A régua aqui é a geração: a posição dele entre os modelos lançados entre 30/05/2022 e 25/05/2023 que fizeram a mesma prova. Contra o acervo inteiro, que tem modelos de 2023, um lançamento recente fica no topo de quase tudo, e isso não diz nada.

Onde se destaca

Provas em que fica no terço de cima da própria geração.

OpenBookQA58,6%
2º de 14 na geração · 13º de 32 no geral
ARC (AI2)67,5%
3º de 15 na geração · 25º de 65 no geral
PIQA82,3%
3º de 12 na geração · 17º de 43 no geral
MMLU58,7%
3º de 11 na geração · 59º de 92 no geral
GSM8K44,1%
3º de 9 na geração · 30º de 54 no geral

Onde fica atrás

Provas em que fica na metade de baixo da própria geração.

Não fica na metade de baixo da geração em nenhuma prova com 6 ou mais modelos comparados.

Ver as 11 provas, uma a uma
ProvaNotaNa geraçãoNo geralRecorde da prova
MMLU 58,7% 3º / 11 59º / 92 88,1% GPT-4o (May 2024)
ARC (AI2) 67,5% 3º / 15 25º / 65 95,3% DeepSeek-V3 (Mar 2025)
WinoGrande 76,0% 7º / 16 25º / 61 89,2% Llama 3.1-405B
GSM8K 44,1% 3º / 9 30º / 54 92,0% GPT-4 (Mar 2023)
HellaSwag 82,8% 6º / 16 16º / 51 95,3% GPT-4 (Mar 2023)
PIQA 82,3% 3º / 12 17º / 43 88,7% GPT-4o mini
BoolQ 86,1% 5º / 15 13º / 42 90,9% PaLM 2-L
BIG-Bench Hard 50,0% 3º / 9 22º / 41 89,2% Gemini 1.5 Pro (Sept 2024)
OpenBookQA 58,6% 2º / 14 13º / 32 88,0% phi-3-mini 3.8B
TriviaQA 83,8% 4º / 11 8º / 32 87,6% Llama 2-70B
LAMBADA 77,2% 3º / 7 5º / 20 79,8% Falcon-180B

Em cada prova vale o melhor nível de esforço que o modelo fez, como no ranking. Fonte das notas: Epoch AI, sob CC BY 4.0.

Comparação

Com quem comparar o LLaMA-33B

Os modelos de outros laboratórios mais próximos em capacidade e lançados na mesma época, no máximo dois por laboratório. Clique em qualquer um para ver a página dele.

ModeloLaboratórioECIELOLiveBenchLançamento
Mistral 7B Mistral AI 111,99 n/d n/d 27/09/2023
PaLM 2-M 108,37 n/d n/d 17/05/2023
LLaMA-33B Meta AI 107,49 n/d n/d 24/02/2023
Qwen-7B Alibaba 106,91 n/d n/d 28/09/2023
PaLM 2-S 106,26 n/d n/d 17/05/2023
Falcon-40B Technology Innovation Institute 104,54 n/d n/d 25/05/2023
Baichuan2-13B Baichuan 103,29 n/d n/d 06/09/2023
Frente a frente

LLaMA-33B ou Qwen-7B?

O Qwen-7B é o modelo de outro laboratório mais próximo do LLaMA-33B em capacidade. Nas 7 provas que os dois fizeram, o placar é este:

LLaMA-33B à frente em 5 Qwen-7B à frente em 2
As maiores diferenças primeiro
ProvaLLaMA-33BQwen-7B
MMLU 58,7% 45,0%
GSM8K 44,1% 51,7%
LAMBADA 77,2% 67,9%
BoolQ 86,1% 76,4%
ARC (AI2) 67,5% 75,3%
BIG-Bench Hard 50,0% 45,0%
PIQA 82,3% 77,9%

Placar sem peso: cada prova conta um ponto, seja de matemática, seja de programação. O ponto marca quem foi melhor em cada linha.

Família

Os outros modelos da Meta AI

Os modelos do mesmo laboratório mais próximos no tempo, do mais novo para o mais antigo.

ModeloLançamentoECIELOLiveBenchAcesso
Llama 3-70B 18/04/2024 122,94 n/d n/d Open weights (restricted use)
Llama 2-70B 18/07/2023 113,84 n/d n/d Open weights (restricted use)
Llama 2-13B 18/07/2023 106,25 n/d n/d Open weights (restricted use)
Llama 2-34B 18/07/2023 105,29 n/d n/d Unreleased
Llama 2-7B 18/07/2023 99,18 n/d n/d Open weights (restricted use)
LLaMA-65B 24/02/2023 110,23 n/d n/d Open weights (non-commercial)
LLaMA-33B 24/02/2023 107,49 n/d n/d Open weights (non-commercial)
LLaMA-13B 24/02/2023 100,69 846 n/d Open weights (non-commercial)
LLaMA-7B 24/02/2023 96,82 n/d n/d Open weights (non-commercial)
Sua avaliação

Já usou o LLaMA-33B? Dê sua nota

n/d de 5
ainda sem votos

Opinião de quem usa, não medição: a nota fica separada do ranking e não mexe na posição de ninguém. Um voto por navegador, sem cadastro, e dá para trocar a nota depois.

Toque numa estrela para votar.
Perguntas frequentes

O que as pessoas perguntam sobre o LLaMA-33B

Qual a posição do LLaMA-33B no ranking de IA?

No AI Benchmark da ROO3, ordenado pelo ECI da Epoch AI, o LLaMA-33B está em 230º lugar entre 267 modelos, com ECI de 107,49. O ECI é um índice composto que junta vários benchmarks difíceis numa escala só. A posição muda quando sai modelo novo, e a página é apurada seis vezes por dia.

O LLaMA-33B é melhor que o Qwen-7B?

Nas 7 provas que os dois fizeram e que a Epoch AI compilou, o LLaMA-33B fica à frente em 5, atrás em 2 e empata em 0. É uma comparação prova a prova, sem peso: uma vitória em matemática conta igual a uma em programação. Para escolher entre os dois, vale olhar as provas que se parecem com o seu uso.

Em que o LLaMA-33B vai melhor?

Comparado aos modelos da mesma geração (lançados até 9 meses antes e até 3 meses depois dele), os melhores resultados relativos do LLaMA-33B são: OpenBookQA (2º de 14); ARC (AI2) (3º de 15); PIQA (3º de 12). A régua é a posição entre os modelos daquela época que fizeram a mesma prova.

De onde vêm os números desta página?

Das mesmas três fontes do ranking, todas com licença aberta: Epoch AI (ECI e provas individuais, CC BY 4.0), Arena (ELO de preferência humana, CC BY 4.0) e LiveBench (média geral, CC BY-SA 4.0). A ROO3 não mede modelo nenhum. Quando a página traz número publicado pelo próprio fabricante, ele aparece na análise escrita, dito como sendo do fabricante, e nunca entra no ranking.

Fontes

De onde vem cada número

Epoch AI, "AI Benchmarking Hub". Publicado em epoch.ai. Dados sob licença CC BY 4.0, reordenados por roo3.co.

Leaderboard da Arena (LMArena), do dataset público lmarena-ai/leaderboard-dataset no Hugging Face, sob licença CC BY 4.0. Não somos afiliados à Arena.

LiveBench, da equipe do LiveBench, publicado em livebench.ai sob licença CC BY-SA 4.0. A média geral é recalculada por roo3.co com a mesma conta do site (média das categorias), e esses números seguem sob CC BY-SA 4.0. Não somos afiliados ao LiveBench.

← Ver o ranking completo