طبی مشورے میں غیر متعلقہ باتوں کا اثر: ایک حیران کن انکشاف!
تاریخ: 23 جون 2025
مصنف: مسٹر سائنس (آپ کا دوست جو سائنس کی باتیں آسان کر کے بتاتا ہے)
پیارے بچو اور میرے نونہال دوستو!
آج ہم ایک بہت ہی دلچسپ اور اہم موضوع پر بات کریں گے جو آپ کی صحت اور مستقبل سے جڑا ہے۔ آپ نے کبھی سوچا ہے کہ جب ہم ڈاکٹر کے پاس جاتے ہیں اور وہ ہمیں بیماری کا علاج بتاتے ہیں، تو کیا وہ صرف بیماری کی بات سن کر علاج بتاتے ہیں، یا کچھ اور بھی ان کے ذہن میں ہوتا ہے؟
حال ہی میں، Massachusetts Institute of Technology (MIT) نامی ایک بہت بڑی اور مشہور یونیورسٹی نے ایک تحقیق کی ہے۔ یہ تحقیق اس بارے میں ہے کہ کس طرح آج کل کے "سمارٹ” کمپیوٹر پروگرام، جنہیں ہم LLMs (Large Language Models) کہتے ہیں، ہمیں طبی مشورے دینے میں کیا کرتے ہیں۔ LLMs دراصل بہت زیادہ معلومات یاد رکھ سکتے ہیں اور انسانی زبان کو سمجھ کر جواب دے سکتے ہیں، بالکل جیسے آپ کے اسمارٹ فون کا اسسٹنٹ یا وہ ویب سائٹ جہاں آپ اپنے سوالات پوچھتے ہیں۔
LLMs کیا ہیں اور وہ کیسے کام کرتے ہیں؟
بچوں، ذرا سوچیں کہ آپ کے پاس ایک ایسی کتاب ہے جس میں دنیا کی ساری کہانیاں، ساری معلومات لکھی ہوئی ہے۔ LLMs بھی کچھ ایسے ہی ہیں، لیکن وہ کتابیں نہیں بلکہ کروڑوں، اربوں ویب سائٹس، کتابوں اور دیگر ذرائع سے معلومات اکٹھا کرتے ہیں۔ پھر وہ ان سب معلومات کو پڑھ کر سیکھتے ہیں کہ انسان کس طرح بات کرتے ہیں، سوال پوچھتے ہیں اور جواب دیتے ہیں۔ جب آپ ان سے کوئی سوال پوچھتے ہیں، تو وہ اس ساری معلومات میں سے تلاش کرتے ہیں اور آپ کو سب سے اچھا اور موزوں جواب دینے کی کوشش کرتے ہیں۔
عام طور پر، ہم توقع کرتے ہیں کہ جب ہم ڈاکٹر کے پاس جائیں گے تو وہ ہماری بیماری کے بارے میں سب کچھ سنیں گے، ہماری جانچ کریں گے، اور پھر بیماری کے حساب سے سب سے اچھا علاج بتائیں گے۔ یہ بالکل ایسے ہی ہے جیسے اگر آپ کا کھلونا خراب ہو جائے تو آپ اس کے خراب حصے کو ٹھیک کرنے کی کوشش کرتے ہیں۔
MIT کی تحقیق میں کیا پتا چلا؟
MIT کی تحقیق میں یہ حیران کن بات سامنے آئی کہ جب ان LLMs کو طبی مشورے دینے کے لیے کہا گیا، تو وہ کبھی کبھی ایسی چیزوں کو بھی شامل کر لیتے تھے جو بیماری کے علاج سے بالکل بھی متعلق نہیں تھیں۔
یہ کیسا ہو سکتا ہے؟
ذرا تصور کریں کہ آپ کے استاد نے آپ سے کہا کہ "آپ نے جو سبق پڑھا ہے، اس میں سے جو مشکل سوال ہیں، ان کے جواب لکھ کر لاؤ۔” آپ نے بڑی محنت سے جواب لکھے، لیکن ان جوابات میں آپ نے وہ تصویریں بھی بنا دیں جو سبق سے متعلق نہیں تھیں، یا کوئی گانا لکھ دیا جو آپ کو پسند ہے۔ ایسا تو نہیں ہونا چاہیے نا؟ استاد تو صرف جواب چاہتے تھے!
اسی طرح، ان LLMs کو جب کسی مریض کی بیماری کے بارے میں بتایا گیا، تو انہوں نے بیماری کے علاج سے جڑی معلومات کے ساتھ ساتھ کچھ ایسی معلومات بھی فراہم کیں جن کا بیماری سے کوئی تعلق ہی نہیں تھا۔ مثال کے طور پر:
- مریض کی عمر یا جنس (اگر اس کا علاج سے براہ راست تعلق نہ ہو): فرض کریں کہ آپ کو بخار ہے، تو آپ کی عمر یا آپ لڑکے ہیں یا لڑکی، اس کا علاج پر کوئی خاص فرق نہیں پڑتا۔ لیکن LLM شاید اس کو بھی اپنے جواب میں شامل کر لے۔
- مریض کے نام کی پہلی حرف: یہ تو بالکل ہی بے معنی بات ہے کہ مریض کے نام کا پہلا حرف کیا ہے۔
- کسی مشہور شخصیت کے بارے میں بات: اگر LLM کو کسی ایسی مشہور شخصیت کا نام یاد آ جائے جو اسی بیماری میں مبتلا رہی ہو، تو وہ اس کا ذکر بھی کر سکتا ہے، حالانکہ اس کا موجودہ علاج سے کوئی تعلق نہیں ہوتا۔
- عام معلومات جو علاج کے لیے ضروری نہیں: جیسے کہ یہ بتانا کہ فلاں دوا کہاں بنائی جاتی ہے، حالانکہ آپ کو صرف دوا کی مقدار اور استعمال کا طریقہ جاننا ہے۔
یہ اتنا اہم کیوں ہے؟
بچوں، یہ بات بہت اہم اس لیے ہے کیونکہ جب ہمیں بیماری کا علاج کروانا ہو، تو ہمیں صحیح اور بالکل متعلقہ معلومات کی ضرورت ہوتی ہے۔ اگر LLMs غیر متعلقہ باتیں بتانا شروع کر دیں، تو ہم الجھن کا شکار ہو سکتے ہیں، یا غلط فہمی کا شکار ہو سکتے ہیں۔ یہ بالکل ایسا ہی ہے جیسے آپ کو پیاس لگی ہو اور کوئی آپ کو پانی کی بجائے جوس پینے کا مشورہ دے۔
سائنسدان کیا کر رہے ہیں؟
یونیورسٹیوں اور ریسرچ سینٹرز میں سائنسدان اس مسئلے کو حل کرنے کی کوشش کر رہے ہیں۔ وہ چاہتے ہیں کہ LLMs صرف وہ معلومات فراہم کریں جو واقعی علاج کے لیے ضروری ہیں۔ یہ ایک بہت بڑی چیلنج ہے، کیونکہ LLMs اتنی ساری معلومات سے سیکھتے ہیں کہ ان کے لیے یہ فرق کرنا مشکل ہو جاتا ہے کہ کون سی بات اہم ہے اور کون سی نہیں۔
آپ کیا سیکھ سکتے ہیں؟
- سائنس بہت دلچسپ ہے: دیکھو، کمپیوٹر بھی اب اتنے سمارٹ ہو گئے ہیں کہ وہ ہماری طرح کام کر رہے ہیں، اور سائنسدان انہیں اور بہتر بنانے کے لیے کام کر رہے ہیں۔
- تنقیدی سوچ ضروری ہے: جب آپ انٹرنیٹ پر یا کسی بھی جگہ سے معلومات حاصل کریں، تو ہمیشہ سوچیں کہ کیا یہ معلومات صحیح ہے؟ کیا یہ میرے کام کی ہے؟ خاص کر جب بات صحت کی ہو، تو ہمیشہ ڈاکٹر سے تصدیق کریں۔
- مسائل کا حل تلاش کرنا: سائنسدانوں نے ایک مسئلہ دیکھا اور اب اسے حل کرنے کی کوشش کر رہے ہیں۔ یہی تو سائنس کا مزہ ہے – مسائل کو سمجھنا اور ان کے حل تلاش کرنا۔
- ٹیکنالوجی کے فائدے اور نقصانات: LLMs ہمیں بہت سی چیزوں میں مدد کر سکتے ہیں، لیکن ہمیں یہ بھی جاننا ہوگا کہ ان کے استعمال میں کیا احتیاط برتنی ہے۔
آگے کیا؟
یہ تحقیق ہمیں بتاتی ہے کہ ہمیں ٹیکنالوجی پر مکمل طور پر انحصار نہیں کرنا چاہیے۔ خاص کر جب بات ہماری صحت کی ہو، تو ہمیں ہمیشہ ڈاکٹر کی بات سننی چاہیے۔ مگر ساتھ ہی، یہ تحقیق سائنسدانوں کو یہ سکھاتی ہے کہ وہ LLMs کو مزید بہتر اور مفید کیسے بنا سکتے ہیں۔
اگلی بار جب آپ کوئی نیا کمپیوٹر پروگرام یا ایپ استعمال کریں، تو سوچئے کہ اس کے پیچھے کتنی ساری محنت اور سائنس چھپی ہوئی ہے۔ سائنس ہمیں دنیا کو سمجھنے اور اسے بہتر بنانے میں مدد دیتی ہے۔
تو میرے پیارے دوستو، سائنس کی دنیا میں قدم رکھیں، سوالات پوچھیں، اور سیکھتے رہیں۔ شاید آپ ہی وہ سائنسدان بنیں جو کل ان LLMs کو اور بھی زیادہ مددگار اور محفوظ بنائیں۔
تب تک کے لیے، خدا حافظ!
LLMs factor in unrelated information when recommending medical treatments
اے آئی نے خبریں فراہم کر دی ہیں۔
گوگل جیمینائی سے جواب حاصل کرنے کے لیے درج ذیل سوال استعمال کیا گیا تھا:
2025-06-23 04:00 کو، Massachusetts Institute of Technology نے ‘LLMs factor in unrelated information when recommending medical treatments’ شائع کیا۔ براہ کرم متعلقہ معلومات کے ساتھ ایک تفصیلی مضمون تحریر کریں، جو بچوں اور طلباء کے لیے آسان زبان میں ہو، تاکہ مزید بچوں کو سائنس میں دلچسپی لینے کی ترغیب ملے۔ براہ کرم مضمون صرف اردو میں فراہم کریں۔