PMC-LLaMA
LLaMA médico entrenado con 4.8M de artículos de PubMed Central
Con la tecnología de la plataforma de IA médica Dr7.ai
PMC-LLaMA es un modelo de lenguaje médico abierto de la Universidad Jiao Tong de Shanghái y el Shanghai AI Laboratory. Continúa el preentrenamiento de LLaMA con 4.8 millones de artículos biomédicos y 30.000 libros de texto de medicina y, después, ajusta el resultado con instrucciones para la respuesta a preguntas y el diálogo médicos.
Prueba preguntas y respuestas médicas al estilo PMC-LLaMA
Haz preguntas clínicas o de estilo USMLE: la demo muestra el razonamiento médico basado en la literatura para el que se creó PMC-LLaMA.
Probar otros modelos
Ver todosPMC-LLaMA Demo
Descubre la IA médica avanzada
Aprovecha todo el potencial de PMC-LLaMA
Obtén preguntas y respuestas médicas ilimitadas, más contexto y acceso a la API para la preparación de exámenes y flujos de trabajo de investigación.
¿Qué es PMC-LLaMA?
PMC-LLaMA es un gran modelo de lenguaje médico de código abierto desarrollado por investigadores de la Universidad Jiao Tong de Shanghái y el Shanghai AI Laboratory (Wu et al., 2023, "PMC-LLaMA: Towards Building Open-source Language Models for Medicine"). Está disponible en tamaños de 7B y 13B.
El entrenamiento se realiza en dos etapas. Primero, LLaMA se sigue preentrenando con 4.8 millones de artículos biomédicos de PubMed Central y 30.000 libros de texto de medicina (el corpus MedC-K), lo que da lugar a "MedLLaMA". Después, el modelo se ajusta con instrucciones de MedC-I (preguntas y respuestas médicas, razonamientos y conversaciones) para convertirse en PMC-LLaMA.
El modelo de 13B obtuvo un 56.4% en MedQA (USMLE), un 56.0% en MedMCQA y un 77.9% en PubMedQA, por delante de los modelos médicos abiertos anteriores y competitivo con ChatGPT en esos benchmarks en aquel momento. Es un modelo de investigación: no es un dispositivo médico y sus respuestas requieren la verificación de expertos.
Optimización para el USMLE
Publicado en 2023 por la Universidad Jiao Tong de Shanghái y el Shanghai AI Laboratory (Wu et al.)
Pesos abiertos en Hugging Face (axiong/PMC_LLaMA_13B); se aplican los términos de licencia de LLaMA
Características principales
Inyección de conocimiento a partir de la literatura biomédica
Capacidades principales
Respuesta a preguntas médicas de estilo USMLE
Preentrenamiento continuado con 4.8M de artículos de PubMed Central
30.000 libros de texto de medicina en el corpus de preentrenamiento
Ajuste por instrucciones con preguntas y respuestas médicas, razonamientos y diálogos
Disponible en tamaños de 7B y 13B parámetros
Pesos abiertos para uso en investigación
Buenos resultados en PubMedQA y MedMCQA para un modelo abierto
Cabe en una sola GPU con mucha memoria
Benchmarks de rendimiento
Puntuaciones publicadas en el artículo de PMC-LLaMA para el modelo de 13B (no medidas por Dr7.ai)
MedQA (USMLE)
56.4%Preguntas de estilo del examen de licencia médica de EE. UU.
MedMCQA
56.0%Preguntas del examen de acceso a medicina de la India
PubMedQA
77.9%Respuesta a preguntas sobre literatura biomédica
Corpus de preentrenamiento
4,8 M artículosMás 30K libros de texto (MedC-K), seguidos de datos de instrucciones MedC-I
Casos de uso
Investigación en IA médica
Un modelo de referencia abierto para estudiar el preentrenamiento adaptado al dominio en medicina.
Apoyo en conocimiento clínico
Respuestas basadas en la literatura a preguntas clínicas, para revisión profesional.
Educación médica
Preguntas de práctica de estilo USMLE con explicaciones.
Cómo usar PMC-LLaMA
Pesos abiertos de 7B / 13B
Obtén los pesos
Carga los checkpoints de 7B o 13B desde Hugging Face con transformers. Se aplican los términos de licencia de LLaMA.
Opciones de integración
Úsalo como modelo de chat o de preguntas y respuestas, o ajústalo más con tus propios datos.
- • Respuesta a preguntas médicas
- • Generación de preguntas de tipo examen
- • Ajuste fino adicional con datos institucionales
- • Modelo de referencia para la investigación de LLM médicos
Consideraciones de despliegue
Planifica la privacidad, la validación y la supervisión humana antes de acercar PMC-LLaMA a datos de pacientes.
- • Anonimiza los datos y cumple HIPAA / GDPR
- • Valídalo con los datos de tu propia institución antes de usarlo
- • Mantén a un profesional clínico acreditado supervisando cada resultado
- • Documenta las limitaciones y el uso previsto para los auditores
Consideraciones importantes
Se requiere validación clínica
PMC-LLaMA es un modelo de investigación. Sus resultados deben ser revisados por profesionales sanitarios calificados antes de cualquier uso clínico.
Cumplimiento normativo
El modelo no es un dispositivo médico autorizado ni aprobado. Garantiza el cumplimiento de la normativa sanitaria local y de las normas de protección de datos (p. ej., HIPAA, GDPR) antes del despliegue.
PMC-LLaMA frente a otros modelos de lenguaje médicos
Dónde encaja un modelo médico abierto de 13B
PMC-LLaMA
LLaMA médico abierto (SJTU / Shanghai AI Lab)
- ✓Pesos abiertos en tamaños prácticos de 7B / 13B
- ✓Preentrenado con millones de artículos biomédicos reales
- ✓Ajustado con instrucciones para preguntas y respuestas y diálogo médicos
- ✓Buenas puntuaciones en benchmarks entre los modelos abiertos en su lanzamiento
- ✓Se ejecuta en una sola GPU con mucha memoria
- ✓Receta de entrenamiento transparente en dos etapas
Investigación y educación que necesitan un LLM médico abierto y basado en la literatura
Otros modelos de IA médica
Cómo se compara
- ×Los LLM generales (GPT-4, Gemini) razonan mejor en tareas abiertas, pero son cerrados y costosos
- ×Los modelos abiertos más grandes (Meditron-70B, MedGemma-27B) necesitan mucha más memoria de GPU
- ×Los modelos solo de texto no pueden ver imágenes
- ×Los clasificadores solo de imagen no pueden explicar sus hallazgos con lenguaje
- ×Los productos comerciales están validados, pero no son inspeccionables
- ×La mayoría de las alternativas publican menos benchmarks reproducibles
Elige según la modalidad (texto o imagen), la licencia y el hardware del que realmente dispones
Preguntas frecuentes
Preguntas habituales sobre PMC-LLaMA
¿Quién desarrolló PMC-LLaMA?
Investigadores de la Universidad Jiao Tong de Shanghái y el Shanghai AI Laboratory (Wu et al., 2023). No es un modelo de Stanford ni de Google.
¿Con qué datos se entrenó PMC-LLaMA?
Con 4.8 millones de artículos de PubMed Central y 30.000 libros de texto de medicina para el preentrenamiento continuado y, después, con datos de preguntas y respuestas médicas, razonamientos y diálogos para el ajuste por instrucciones.
¿Qué puntuación obtiene PMC-LLaMA en preguntas del USMLE?
El modelo de 13B informa un 56.4% en MedQA (USMLE), un 56.0% en MedMCQA y un 77.9% en PubMedQA.
¿Puedo ejecutar PMC-LLaMA localmente?
Sí. El modelo de 13B cabe en una sola GPU con mucha memoria, y el de 7B en hardware de consumo con cuantización.
¿Esta demo ejecuta el propio PMC-LLaMA?
La demo usa el asistente médico de Dr7.ai para mostrar preguntas y respuestas médicas basadas en la literatura. Para usar el modelo original, utiliza los pesos abiertos.