BiomedLM
نموذج اللغة الطبي الحيوي 2.7B من Stanford CRFM
مدعوم بمنصة Dr7.ai للذكاء الاصطناعي الطبي
BioMedLM (المعروف سابقًا باسم PubMedGPT) نموذج لغوي بأسلوب GPT يضم 2.7 مليار معامل، درّبه Stanford CRFM وMosaicML حصريًا على ملخصات PubMed ومقالاتها الكاملة. ويُظهر أن نموذجًا صغيرًا متخصصًا في مجاله يمكن أن ينافس نماذج عامة أكبر بكثير في الإجابة عن الأسئلة الطبية الحيوية.
جرّب أسئلة وأجوبة طبية حيوية بأسلوب BioMedLM
اطرح أسئلة حول الأدبيات الطبية الحيوية أو الآليات أو المصطلحات — يعرض هذا العرض التوضيحي نوع الإجابات المستندة إلى PubMed التي ينتجها نموذج لغوي مُدرَّب على هذا المجال.
جرب نماذج أخرى
عرض الكلBiomedLM عرض توضيحي
جرّب الذكاء الاصطناعي الطبي المتقدم
افتح كامل إمكانات BiomedLM
احصل على أسئلة وأجوبة طبية حيوية غير محدودة، وسياق أطول، ووصول إلى API لسير العمل الذي يعتمد بكثافة على الأدبيات.
ما هو BioMedLM؟
BiomedLM هو نموذج لغوي انحداري ذاتي يضم 2.7 مليار معامل، طوّره مركز أبحاث النماذج التأسيسية في Stanford (CRFM) بالتعاون مع MosaicML. صدر لأول مرة في ديسمبر 2022 باسم PubMedGPT ثم أُعيدت تسميته لاحقًا إلى BioMedLM.
على عكس النماذج العامة التي لا ترى سوى قدر ضئيل من النصوص الطبية الحيوية ضمن كل شيء آخر، دُرِّب BioMedLM من الصفر على ملخصات PubMed والمقالات الكاملة في PubMed Central فقط (جزء PubMed من مجموعة The Pile، نحو 50 مليار رمز). يتيح هذا التركيز لنموذج صغير نسبيًا بلوغ نحو 50% في MedQA (USMLE) و74% في PubMedQA بعد الضبط الدقيق — وهي نتائج كانت عند صدوره منافسة لنماذج يفوق حجمها حجمه بـ 50 مرة.
أوزان BioMedLM مفتوحة، وهو صغير بما يكفي لضبطه بدقة على وحدة GPU واحدة، مما جعله أساسًا شائعًا لأبحاث الاستخراج والتلخيص والإجابة عن الأسئلة في المجال الطبي الحيوي. وهو نتاج بحثي وليس منتجًا سريريًا، وليس مخصصًا للاستخدام المباشر مع المرضى.
أحدث التطورات
صدر في ديسمبر 2022 باسم PubMedGPT من Stanford CRFM وMosaicML؛ وأُعيدت تسميته إلى BioMedLM في 2023 (الورقة البحثية: Bolton et al., 2024)
أوزان مفتوحة على Hugging Face (stanford-crfm/BioMedLM)؛ دُرِّب على 300B رمز من نصوص PubMed
الميزات الرئيسية
نموذج صغير مُدرَّب على الأدبيات الطبية الحيوية فقط
القدرات الأساسية
2.7B معامل — قابل للضبط الدقيق على وحدة GPU واحدة
مُدرَّب حصريًا على ملخصات PubMed والنصوص الكاملة في PMC
الإجابة عن الأسئلة الطبية الحيوية (MedQA، PubMedQA، MedMCQA)
تلخيص الأدبيات واستخراج المعلومات
استخراج الكيانات والعلاقات الطبية الحيوية بعد الضبط الدقيق
بنية بأسلوب GPT-2 مع مُجزِّئ رموز (tokenizer) طبي حيوي مخصص
أوزان مفتوحة للاستخدام البحثي
كفاءة عالية لكل معامل مقارنةً بنماذج اللغة الكبيرة العامة
معايير الأداء
النتائج التي أعلنها Stanford CRFM / MosaicML للنموذج 2.7B بعد الضبط الدقيق
MedQA (USMLE)
50.3%أسئلة بأسلوب امتحان الترخيص الطبي الأمريكي، بأربعة خيارات
PubMedQA
74.4%أسئلة بنعم/لا/ربما حول ملخصات PubMed
MedMCQA
تنافسيأسئلة امتحانات القبول الطبي في الهند؛ واردة في الورقة البحثية لـ BioMedLM
حجم النموذج
2.7Bيحقق هذه النتائج بجزء بسيط من معاملات نماذج اللغة الكبيرة العامة
حالات الاستخدام
البحث الطبي الحيوي
تلخيص الأوراق البحثية واستخراج الكيانات وتوليد الفرضيات من الأدبيات.
تحليل الأدبيات
الإجابة عن الأسئلة والتلخيص استنادًا إلى نصوص بأسلوب PubMed.
التعليم الطبي
الإجابة عن أسئلة طبية حيوية بأسلوب الامتحانات وشرح الآليات الكامنة.
كيفية استخدام BioMedLM
أوزان مفتوحة تعمل على وحدة GPU واحدة
احصل على الأوزان
حمّل stanford-crfm/BioMedLM من Hugging Face باستخدام transformers. النموذج الأساسي نموذج لغوي عادي — اضبطه بدقة لمهمتك.
خيارات التكامل
يكون BioMedLM أكثر فائدة كأساس للضبط الدقيق الخاص بمهام محددة.
- • الضبط الدقيق للإجابة عن الأسئلة أو التصنيف في المجال الطبي الحيوي
- • استخراج الكيانات المسماة والعلاقات
- • مسارات تلخيص الملخصات البحثية
- • تضمينات مكيّفة للمجال لأغراض الاسترجاع
اعتبارات النشر
خطّط للخصوصية والتحقق والإشراف البشري قبل استخدام BioMedLM في أي سياق قريب من بيانات المرضى.
- • إزالة ما يحدد هوية البيانات والامتثال لـ HIPAA / GDPR
- • التحقق باستخدام بيانات مؤسستك قبل الاستخدام
- • إشراك طبيب مرخّص في مراجعة كل مخرج
- • توثيق القيود والاستخدام المقصود للمدققين
اعتبارات مهمة
التحقق السريري مطلوب
BioMedLM نموذج بحثي. يجب أن يراجع مختصون مؤهلون في الرعاية الصحية مخرجاته قبل أي استخدام سريري.
الامتثال التنظيمي
النموذج ليس جهازًا طبيًا حاصلًا على إجازة أو موافقة من الجهات التنظيمية. تأكد من الامتثال للوائح الرعاية الصحية المحلية وقواعد حماية البيانات (مثل HIPAA وGDPR) قبل النشر.
BioMedLM مقارنةً بنماذج اللغة الطبية الأخرى
صغير ومتخصص مقابل كبير وعام
BioMedLM
نموذج 2.7B من Stanford CRFM
- ✓مُدرَّب على الأدبيات الطبية الحيوية فقط
- ✓يعمل ويُضبط بدقة على وحدة GPU واحدة
- ✓أوزان مفتوحة وقابلة للفحص بالكامل
- ✓نتائج تنافسية في MedQA / PubMedQA بالنسبة لحجمه
- ✓مُجزِّئ رموز طبي حيوي مخصص
- ✓وصفة تدريب موثّقة جيدًا
المجموعات البحثية التي تحتاج إلى نموذج أساسي طبي حيوي قابل للضبط الدقيق على عتاد متواضع
نماذج الذكاء الاصطناعي الطبية الأخرى
أوجه المقارنة
- ×نماذج اللغة الكبيرة العامة (GPT-4، Gemini) أقوى في الاستدلال المفتوح لكنها مغلقة ومكلفة
- ×النماذج المفتوحة الأكبر (Meditron-70B، MedGemma-27B) تحتاج إلى ذاكرة GPU أكبر بكثير
- ×النماذج النصية فقط لا تستطيع التعامل مع الصور
- ×المصنِّفات المعتمدة على الصور فقط لا تستطيع شرح نتائجها باللغة
- ×المنتجات التجارية مُتحقَّق منها لكنها غير قابلة للفحص
- ×معظم البدائل تنشر عددًا أقل من المعايير المرجعية القابلة لإعادة الإنتاج
اختر حسب نوع البيانات (نص أم صورة)، والترخيص، والعتاد المتوفر لديك فعلًا
الأسئلة الشائعة
أسئلة شائعة حول BioMedLM
من طوّر BioMedLM؟
Stanford CRFM (مركز أبحاث النماذج التأسيسية) بالتعاون مع MosaicML. صدر في الأصل باسم PubMedGPT في ديسمبر 2022.
ما حجم BioMedLM؟
2.7 مليار معامل — صغير بما يكفي لضبطه بدقة على وحدة GPU واحدة، وهذا هو جوهر المشروع.
ما النتائج التي حققها BioMedLM في الامتحانات الطبية؟
نحو 50.3% في MedQA (USMLE) و74.4% في PubMedQA بعد الضبط الدقيق، وفقًا لإصدار Stanford CRFM.
هل يمكنني استخدام BioMedLM في منتج سريري؟
الأوزان مفتوحة لأغراض البحث. وهو ليس جهازًا طبيًا، ويحذّر مؤلفوه صراحةً من استخدامه مع المرضى دون تحقق.
هل يشغّل هذا العرض التوضيحي BioMedLM نفسه؟
يستخدم العرض التوضيحي المساعد الطبي من Dr7.ai لعرض أسئلة وأجوبة طبية حيوية بأسلوب PubMed. للحصول على نتائج مطابقة تمامًا، شغّل الأوزان المفتوحة محليًا.