PMC-LLaMA
LLaMA médico treinado com 4.8M de artigos do PubMed Central
Com tecnologia da plataforma de IA médica Dr7.ai
O PMC-LLaMA é um modelo de linguagem médico aberto da Universidade Jiao Tong de Xangai e do Shanghai AI Laboratory. Ele continua o pré-treinamento do LLaMA com 4,8 milhões de artigos biomédicos e 30.000 livros didáticos de medicina e, em seguida, faz o ajuste por instruções do resultado para resposta a perguntas e diálogo médicos.
Experimente perguntas e respostas médicas no estilo PMC-LLaMA
Faça perguntas clínicas ou no estilo USMLE — a demo mostra o raciocínio médico embasado na literatura para o qual o PMC-LLaMA foi criado.
Experimente outros modelos
Ver todosPMC-LLaMA Demo
Conheça a IA médica avançada
Aproveite todo o potencial do PMC-LLaMA
Tenha perguntas e respostas médicas ilimitadas, contexto mais longo e acesso à API para preparação para provas e fluxos de trabalho de pesquisa.
O que é o PMC-LLaMA?
PMC-LLaMA é um modelo de linguagem médico de grande porte e de código aberto, desenvolvido por pesquisadores da Universidade Jiao Tong de Xangai e do Shanghai AI Laboratory (Wu et al., 2023, "PMC-LLaMA: Towards Building Open-source Language Models for Medicine"). Está disponível nos tamanhos 7B e 13B.
O treinamento acontece em duas etapas. Primeiro, o LLaMA passa por pré-treinamento adicional com 4,8 milhões de artigos biomédicos do PubMed Central e 30.000 livros didáticos de medicina (o corpus MedC-K), gerando o "MedLLaMA". Depois, o modelo passa por ajuste por instruções com o MedC-I — perguntas e respostas médicas, justificativas e conversas — e se torna o PMC-LLaMA.
O modelo de 13B obteve 56.4% no MedQA (USMLE), 56.0% no MedMCQA e 77.9% no PubMedQA, à frente de modelos médicos abertos anteriores e competitivo com o ChatGPT da época nesses benchmarks. É um modelo de pesquisa: não é um dispositivo médico e suas respostas exigem verificação por especialistas.
Otimização para o USMLE
Lançado em 2023 pela Universidade Jiao Tong de Xangai e pelo Shanghai AI Laboratory (Wu et al.)
Pesos abertos no Hugging Face (axiong/PMC_LLaMA_13B); aplicam-se os termos de licença do LLaMA
Principais recursos
Injeção de conhecimento a partir da literatura biomédica
Recursos principais
Resposta a perguntas médicas no estilo USMLE
Pré-treinamento continuado com 4.8M de artigos do PubMed Central
30.000 livros didáticos de medicina no corpus de pré-treinamento
Ajuste por instruções com perguntas e respostas médicas, justificativas e diálogos
Disponível nos tamanhos de 7B e 13B parâmetros
Pesos abertos para uso em pesquisa
Bons resultados no PubMedQA e no MedMCQA para um modelo aberto
Cabe em uma única GPU com muita memória
Benchmarks de desempenho
Pontuações divulgadas no artigo do PMC-LLaMA para o modelo de 13B (não medidas pela Dr7.ai)
MedQA (USMLE)
56.4%Questões no estilo do exame de licenciamento médico dos EUA
MedMCQA
56.0%Questões do exame de ingresso em medicina da Índia
PubMedQA
77.9%Resposta a perguntas sobre literatura biomédica
Corpus de pré-treinamento
4,8 mi artigosMais 30K livros didáticos (MedC-K), seguidos dos dados de instruções MedC-I
Casos de uso
Pesquisa em IA médica
Um modelo de referência aberto para estudar pré-treinamento adaptado ao domínio na medicina.
Apoio em conhecimento clínico
Respostas embasadas na literatura para perguntas clínicas, para revisão profissional.
Educação médica
Questões de prática no estilo USMLE com explicações.
Como usar o PMC-LLaMA
Pesos abertos de 7B / 13B
Obtenha os pesos
Carregue os checkpoints de 7B ou 13B do Hugging Face com transformers. Aplicam-se os termos de licença do LLaMA.
Opções de integração
Use-o como modelo de chat ou de perguntas e respostas, ou faça ajuste fino adicional com seus próprios dados.
- • Resposta a perguntas médicas
- • Geração de questões no estilo de provas
- • Ajuste fino adicional com dados institucionais
- • Modelo de referência para pesquisa em LLMs médicos
Considerações de implantação
Planeje privacidade, validação e supervisão humana antes de colocar o PMC-LLaMA perto de dados de pacientes.
- • Anonimize os dados e cumpra a HIPAA / GDPR
- • Valide com os dados da sua própria instituição antes do uso
- • Mantenha um profissional clínico habilitado revisando cada resultado
- • Documente as limitações e o uso pretendido para auditores
Considerações importantes
Validação clínica obrigatória
O PMC-LLaMA é um modelo de pesquisa. Seus resultados devem ser revisados por profissionais de saúde qualificados antes de qualquer uso clínico.
Conformidade regulatória
O modelo não é um dispositivo médico autorizado ou aprovado. Garanta a conformidade com as regulamentações de saúde locais e as regras de proteção de dados (por exemplo, HIPAA, GDPR) antes da implantação.
PMC-LLaMA vs. outros modelos de linguagem médicos
Onde um modelo médico aberto de 13B se encaixa
PMC-LLaMA
LLaMA médico aberto (SJTU / Shanghai AI Lab)
- ✓Pesos abertos em tamanhos práticos de 7B / 13B
- ✓Pré-treinado com milhões de artigos biomédicos reais
- ✓Ajustado por instruções para perguntas e respostas e diálogo médicos
- ✓Boas pontuações em benchmarks entre os modelos abertos no lançamento
- ✓Roda em uma única GPU com muita memória
- ✓Receita de treinamento transparente em duas etapas
Pesquisa e ensino que precisam de um LLM médico aberto e embasado na literatura
Outros modelos de IA médica
Como ele se compara
- ×LLMs gerais (GPT-4, Gemini) são melhores em raciocínio aberto, mas são fechados e caros
- ×Modelos abertos maiores (Meditron-70B, MedGemma-27B) exigem muito mais memória de GPU
- ×Modelos só de texto não conseguem analisar imagens
- ×Classificadores só de imagem não conseguem explicar seus achados em linguagem
- ×Produtos comerciais são validados, mas não são inspecionáveis
- ×A maioria das alternativas publica menos benchmarks reproduzíveis
Escolha pela modalidade (texto ou imagem), pela licença e pelo hardware que você realmente tem
Perguntas frequentes
Dúvidas comuns sobre o PMC-LLaMA
Quem desenvolveu o PMC-LLaMA?
Pesquisadores da Universidade Jiao Tong de Xangai e do Shanghai AI Laboratory (Wu et al., 2023). Não é um modelo de Stanford nem do Google.
Com quais dados o PMC-LLaMA foi treinado?
Com 4,8 milhões de artigos do PubMed Central e 30.000 livros didáticos de medicina no pré-treinamento continuado e, depois, com dados de perguntas e respostas médicas, justificativas e diálogos no ajuste por instruções.
Qual é a pontuação do PMC-LLaMA em questões do USMLE?
O modelo de 13B relata 56.4% no MedQA (USMLE), 56.0% no MedMCQA e 77.9% no PubMedQA.
Posso executar o PMC-LLaMA localmente?
Sim. O modelo de 13B cabe em uma única GPU com muita memória, e o de 7B roda em hardware de consumo com quantização.
Esta demo executa o próprio PMC-LLaMA?
A demo usa o assistente médico da Dr7.ai para mostrar perguntas e respostas médicas embasadas na literatura. Para usar o modelo original, utilize os pesos abertos.