BiomedLM
Modelo de lenguaje biomédico de 2.7B de Stanford CRFM
Con la tecnología de la plataforma de IA médica Dr7.ai
BioMedLM (antes PubMedGPT) es un modelo de lenguaje de tipo GPT con 2.700 millones de parámetros, entrenado por Stanford CRFM y MosaicML exclusivamente con resúmenes y artículos completos de PubMed. Demuestra que un modelo pequeño y específico del dominio puede rivalizar con modelos generales mucho más grandes en preguntas y respuestas biomédicas.
Prueba preguntas y respuestas biomédicas al estilo BioMedLM
Haz preguntas sobre literatura biomédica, mecanismos o terminología: la demo muestra el tipo de respuestas basadas en PubMed que produce un modelo de lenguaje entrenado en el dominio.
Probar otros modelos
Ver todosBiomedLM Demo
Descubre la IA médica avanzada
Desbloquea todo el potencial de BiomedLM
Obtén preguntas y respuestas biomédicas ilimitadas, más contexto y acceso a la API para flujos de trabajo con mucha literatura.
¿Qué es BioMedLM?
BiomedLM es un modelo de lenguaje autorregresivo de 2.700 millones de parámetros creado por el Stanford Center for Research on Foundation Models (CRFM) junto con MosaicML. Se lanzó por primera vez en diciembre de 2022 como PubMedGPT y más tarde pasó a llamarse BioMedLM.
A diferencia de los modelos generales, que solo ven un poco de texto biomédico entre todo lo demás, BioMedLM se entrenó desde cero únicamente con resúmenes de PubMed y artículos completos de PubMed Central (la parte de PubMed de The Pile, unos 50.000 millones de tokens). Ese enfoque permite que un modelo comparativamente diminuto alcance alrededor del 50% en MedQA (USMLE) y el 74% en PubMedQA tras el ajuste fino, resultados que en su lanzamiento eran competitivos con modelos 50× más grandes.
BioMedLM tiene pesos abiertos y es lo bastante pequeño para ajustarlo en una sola GPU, lo que lo convirtió en una base popular para la investigación en extracción, resumen y respuesta a preguntas biomédicas. Es un artefacto de investigación, no un producto clínico, y no está pensado para su uso de cara al paciente.
Última novedad
Lanzado en diciembre de 2022 como PubMedGPT por Stanford CRFM y MosaicML; renombrado BioMedLM en 2023 (artículo: Bolton et al., 2024)
Pesos abiertos en Hugging Face (stanford-crfm/BioMedLM); entrenado con 300.000 millones de tokens de texto de PubMed
Características principales
Un modelo pequeño entrenado solo con literatura biomédica
Capacidades principales
2.7B parámetros: se puede ajustar en una sola GPU
Entrenado exclusivamente con resúmenes de PubMed y texto completo de PMC
Respuesta a preguntas biomédicas (MedQA, PubMedQA, MedMCQA)
Resumen de literatura y extracción de información
Extracción de entidades y relaciones biomédicas tras el ajuste fino
Arquitectura de tipo GPT-2 con un tokenizador biomédico propio
Pesos abiertos para uso en investigación
Gran eficiencia por parámetro frente a los LLM generales
Benchmarks de rendimiento
Resultados publicados por Stanford CRFM / MosaicML para el modelo de 2.7B con ajuste fino
MedQA (USMLE)
50.3%Preguntas de estilo del examen de licencia médica de EE. UU., 4 opciones
PubMedQA
74.4%Preguntas de sí/no/quizás sobre resúmenes de PubMed
MedMCQA
CompetitivoPreguntas del examen de acceso a medicina de la India; publicadas en el artículo de BioMedLM
Tamaño del modelo
2.7BAlcanza estas puntuaciones con una fracción de los parámetros de los LLM generales
Casos de Uso
Investigación biomédica
Resume artículos, extrae entidades y genera hipótesis a partir de la literatura.
Análisis de literatura
Respuesta a preguntas y resumen basados en textos de estilo PubMed.
Educación médica
Responde preguntas biomédicas de tipo examen y explica los mecanismos subyacentes.
Cómo usar BioMedLM
Pesos abiertos que caben en una sola GPU
Obtén los pesos
Carga stanford-crfm/BioMedLM desde Hugging Face con transformers. El modelo base es un modelo de lenguaje sin más: ajústalo para tu tarea.
Opciones de integración
BioMedLM resulta más útil como base para el ajuste fino en tareas específicas.
- • Ajuste fino para preguntas y respuestas o clasificación biomédicas
- • Extracción de entidades nombradas y relaciones
- • Pipelines para resumir abstracts
- • Embeddings adaptados al dominio para recuperación
Consideraciones de despliegue
Planifica la privacidad, la validación y la supervisión humana antes de acercar BioMedLM a datos de pacientes.
- • Anonimiza los datos y cumple HIPAA / GDPR
- • Valídalo con los datos de tu propia institución antes de usarlo
- • Mantén a un profesional clínico acreditado supervisando cada resultado
- • Documenta las limitaciones y el uso previsto para los auditores
Consideraciones importantes
Se requiere validación clínica
BioMedLM es un modelo de investigación. Sus resultados deben ser revisados por profesionales sanitarios calificados antes de cualquier uso clínico.
Cumplimiento normativo
El modelo no es un dispositivo médico autorizado ni aprobado. Garantiza el cumplimiento de la normativa sanitaria local y de las normas de protección de datos (p. ej., HIPAA, GDPR) antes del despliegue.
BioMedLM frente a otros modelos de lenguaje médicos
Pequeño y especializado frente a grande y general
BioMedLM
El modelo de 2.7B de Stanford CRFM
- ✓Entrenado solo con literatura biomédica
- ✓Se ejecuta y se ajusta en una sola GPU
- ✓Pesos abiertos, totalmente inspeccionables
- ✓Puntuaciones competitivas en MedQA / PubMedQA para su tamaño
- ✓Tokenizador biomédico propio
- ✓Receta de entrenamiento bien documentada
Grupos de investigación que necesitan un modelo base biomédico ajustable con hardware modesto
Otros modelos de IA médica
Cómo se compara
- ×Los LLM generales (GPT-4, Gemini) razonan mejor en tareas abiertas, pero son cerrados y costosos
- ×Los modelos abiertos más grandes (Meditron-70B, MedGemma-27B) necesitan mucha más memoria de GPU
- ×Los modelos solo de texto no pueden ver imágenes
- ×Los clasificadores solo de imagen no pueden explicar sus hallazgos con lenguaje
- ×Los productos comerciales están validados, pero no son inspeccionables
- ×La mayoría de las alternativas publican menos benchmarks reproducibles
Elige según la modalidad (texto o imagen), la licencia y el hardware del que realmente dispones
Preguntas frecuentes
Preguntas habituales sobre BioMedLM
¿Quién desarrolló BioMedLM?
Stanford CRFM (Center for Research on Foundation Models) junto con MosaicML. Se lanzó originalmente como PubMedGPT en diciembre de 2022.
¿Qué tamaño tiene BioMedLM?
2.700 millones de parámetros: lo bastante pequeño para ajustarlo en una sola GPU, que es precisamente el objetivo del proyecto.
¿Qué puntuación obtuvo BioMedLM en exámenes médicos?
Alrededor del 50.3% en MedQA (USMLE) y del 74.4% en PubMedQA tras el ajuste fino, según la publicación de Stanford CRFM.
¿Puedo usar BioMedLM en un producto clínico?
Los pesos están abiertos para investigación. No es un dispositivo médico y los autores desaconsejan expresamente su uso de cara al paciente sin validación.
¿Esta demo ejecuta el propio BioMedLM?
La demo usa el asistente médico de Dr7.ai para mostrar preguntas y respuestas biomédicas al estilo PubMed. Para reproducciones exactas, ejecuta los pesos abiertos localmente.