Início › AI Benchmark › Qwen-1_8B
laboratório não informado lançado em 30/11/2023 Unknown

Qwen-1_8B

Qwen-1_8B (laboratório não informado) foi lançado em 30/11/2023. No ranking de capacidade da Epoch AI (ECI), está em 256º lugar entre 267 modelos, com 93,07.

256º de 267 no ranking por ECI
93,07 ECI, índice de capacidade da Epoch AI
sem par ELO na Arena, preferência humana
não medido LiveBench, média geral de 0 a 100
Ainda sem votos. Dê a sua nota.
O que as provas dizem

Onde o Qwen-1_8B se destaca e onde fica atrás, pelos números

O Qwen-1_8B tem resultado publicado em 7 provas compiladas pela Epoch AI. A régua aqui é a geração: a posição dele entre os modelos lançados entre 05/03/2023 e 28/02/2024 que fizeram a mesma prova. Contra o acervo inteiro, que tem modelos de 2023, um lançamento recente fica no topo de quase tudo, e isso não diz nada.

Onde se destaca

Provas em que fica no terço de cima da própria geração.

Não fica no terço de cima da geração em nenhuma prova com 6 ou mais modelos comparados.

Onde fica atrás

Provas em que fica na metade de baixo da própria geração.

BIG-Bench Hard28,2%
28º de 28 na geração · recorde: 89,2% (Gemini 1.5 Pro (Sept 2024))
LAMBADA58,4%
15º de 16 na geração · recorde: 79,8% (Falcon-180B)
PIQA73,3%
28º de 30 na geração · recorde: 88,7% (GPT-4o mini)
MMLU28,2%
41º de 45 na geração · recorde: 88,1% (GPT-4o (May 2024))
GSM8K21,2%
30º de 36 na geração · recorde: 92,0% (GPT-4 (Mar 2023))
Ver as 7 provas, uma a uma
ProvaNotaNa geraçãoNo geralRecorde da prova
MMLU 28,2% 41º / 45 88º / 92 88,1% GPT-4o (May 2024)
ARC (AI2) 53,2% 22º / 44 38º / 65 95,3% DeepSeek-V3 (Mar 2025)
GSM8K 21,2% 30º / 36 46º / 54 92,0% GPT-4 (Mar 2023)
PIQA 73,3% 28º / 30 41º / 43 88,7% GPT-4o mini
BoolQ 68,0% 27º / 33 36º / 42 90,9% PaLM 2-L
BIG-Bench Hard 28,2% 28º / 28 41º / 41 89,2% Gemini 1.5 Pro (Sept 2024)
LAMBADA 58,4% 15º / 16 19º / 20 79,8% Falcon-180B

Em cada prova vale o melhor nível de esforço que o modelo fez, como no ranking. Fonte das notas: Epoch AI, sob CC BY 4.0.

Comparação

Com quem comparar o Qwen-1_8B

Os modelos de outros laboratórios mais próximos em capacidade e lançados na mesma época, no máximo dois por laboratório. Clique em qualquer um para ver a página dele.

ModeloLaboratórioECIELOLiveBenchLançamento
Falcon-7B Technology Innovation Institute 95,23 n/d n/d 24/04/2023
MPT-7B MosaicML 94,73 n/d n/d 05/05/2023
Gemma 2B Google DeepMind 94,34 n/d n/d 21/02/2024
StarCoder 2 7B Hugging Face 93,70 n/d n/d 20/02/2024
XGen-7B Salesforce 93,54 n/d n/d 27/06/2023
Qwen-1_8B 93,07 n/d n/d 30/11/2023
Phi-1.5 Microsoft 91,68 n/d n/d 11/09/2023
Frente a frente

Qwen-1_8B ou Gemma 2B?

O Gemma 2B é o modelo de outro laboratório mais próximo do Qwen-1_8B em capacidade. Nas 6 provas que os dois fizeram, o placar é este:

Qwen-1_8B à frente em 2 Gemma 2B à frente em 4
As maiores diferenças primeiro
ProvaQwen-1_8BGemma 2B
MMLU 28,2% 42,3%
ARC (AI2) 53,2% 42,1%
BIG-Bench Hard 28,2% 35,2%
GSM8K 21,2% 17,7%
PIQA 73,3% 77,3%
BoolQ 68,0% 69,4%

Placar sem peso: cada prova conta um ponto, seja de matemática, seja de programação. O ponto marca quem foi melhor em cada linha.

Sua avaliação

Já usou o Qwen-1_8B? Dê sua nota

n/d de 5
ainda sem votos

Opinião de quem usa, não medição: a nota fica separada do ranking e não mexe na posição de ninguém. Um voto por navegador, sem cadastro, e dá para trocar a nota depois.

Toque numa estrela para votar.
Perguntas frequentes

O que as pessoas perguntam sobre o Qwen-1_8B

Qual a posição do Qwen-1_8B no ranking de IA?

No AI Benchmark da ROO3, ordenado pelo ECI da Epoch AI, o Qwen-1_8B está em 256º lugar entre 267 modelos, com ECI de 93,07. O ECI é um índice composto que junta vários benchmarks difíceis numa escala só. A posição muda quando sai modelo novo, e a página é apurada seis vezes por dia.

O Qwen-1_8B é melhor que o Gemma 2B?

Nas 6 provas que os dois fizeram e que a Epoch AI compilou, o Qwen-1_8B fica à frente em 2, atrás em 4 e empata em 0. É uma comparação prova a prova, sem peso: uma vitória em matemática conta igual a uma em programação. Para escolher entre os dois, vale olhar as provas que se parecem com o seu uso.

De onde vêm os números desta página?

Das mesmas três fontes do ranking, todas com licença aberta: Epoch AI (ECI e provas individuais, CC BY 4.0), Arena (ELO de preferência humana, CC BY 4.0) e LiveBench (média geral, CC BY-SA 4.0). A ROO3 não mede modelo nenhum. Quando a página traz número publicado pelo próprio fabricante, ele aparece na análise escrita, dito como sendo do fabricante, e nunca entra no ranking.

Fontes

De onde vem cada número

Epoch AI, "AI Benchmarking Hub". Publicado em epoch.ai. Dados sob licença CC BY 4.0, reordenados por roo3.co.

Leaderboard da Arena (LMArena), do dataset público lmarena-ai/leaderboard-dataset no Hugging Face, sob licença CC BY 4.0. Não somos afiliados à Arena.

LiveBench, da equipe do LiveBench, publicado em livebench.ai sob licença CC BY-SA 4.0. A média geral é recalculada por roo3.co com a mesma conta do site (média das categorias), e esses números seguem sob CC BY-SA 4.0. Não somos afiliados ao LiveBench.

← Ver o ranking completo