آیا کامپیوترهای هوشمند می‌توانند دکترهای خوبی باشند؟
در دنیای امروز، کامپیوترهای خیلی هوشمند که به آن‌ها «مدل‌های زبان بزرگ» یا LLM می‌گویند، می‌توانند کارهای شگفت‌انگیزی انجام دهند. مثلاً می‌توانند شعر بگویند، داستان تعریف کنند، و حتی به سوال‌های پیچیده جواب بدهند. اما دانشمندان در دانشگاه MIT (که یکی از بهترین دانشگاه‌های دنیاست!) کشف کرده‌اند که این کامپیوترهای هوشمند وقتی می‌خواهند به ما در مورد سلامتی‌مان کمک کنند، گاهی اوقات اشتباه می‌کنند.
چرا اشتباه می‌کنند؟
تصور کنید شما به دکتر می‌گویید که شکمتان درد می‌کند. دکتر خوب، فقط به شکم درد شما فکر نمی‌کند. به چیزهای دیگری هم توجه می‌کند. مثلاً:
- آیا تب دارید؟
- آیا چیزی خورده‌اید که ممکن است باعث دل‌دردتان شده باشد؟
- آیا چیز دیگری در بدنتان اذیتتان می‌کند؟
دکتر با دقت به همه‌ی اینها گوش می‌دهد و بعد بهترین راه را برای خوب شدن شما پیدا می‌کند.
اما کامپیوترهای هوشمند، گاهی اوقات به اطلاعاتی که لازم نیستند هم توجه می‌کنند! در این تحقیق، دانشمندان به این کامپیوترها گفتند که به بعضی بیماران کمک کنند. مثلاً به کامپیوتر گفتند که یک نفر تب دارد و گلویش درد می‌کند. کامپیوتر هم گفت که باید استراحت کند و مایعات گرم بخورد. این خوب است!
اما بعد، دانشمندان به کامپیوتر گفتند که همان شخص، به خاطر اینکه موهایش قرمز است، گاهی اوقات احساس خستگی می‌کند! در کمال تعجب، کامپیوتر شروع کرد به گفتن اینکه شاید رنگ موی قرمز باعث خستگی شده و شاید باید چیزهای دیگری بخورد تا خسته نشود!
این یعنی چه؟
یعنی این کامپیوترهای هوشمند، چون خیلی چیزها را یاد گرفته‌اند، گاهی اوقات فکر می‌کنند که چیزهایی که ربطی به هم ندارند، مثل رنگ مو و خستگی، یا ربطی به هم دارند، یا اینکه باید بهشان اهمیت داد. در دنیای واقعی، رنگ مو اصلاً ربطی به خستگی در اثر بیماری ندارد!
این مثل این است که شما از دوستتان بپرسید چرا گربه شما صدا می‌دهد و او بگوید چون دوست دارد با شما بازی کند، و بعد هم بگوید چون شما پیراهن آبی پوشیده‌اید! اینکه پیراهن آبی پوشیده‌اید، هیچ ربطی به صدای گربه ندارد.
چرا این مهم است؟
چون سلامتی ما خیلی خیلی مهم است. ما باید مطمئن شویم که کامپیوترهایی که قرار است به ما در مورد سلامتی کمک کنند، فقط به اطلاعات درست و مهم توجه می‌کنند. اگر کامپیوترها به اطلاعات اشتباه توجه کنند، ممکن است پیشنهادهای بدی بدهند و حالمان بدتر شود.
دانشمندان چه کار می‌کنند؟
دانشمندان MIT در حال کار کردن هستند تا این کامپیوترهای هوشمند را باهوش‌تر و دقیق‌تر کنند. می‌خواهند کاری کنند که این کامپیوترها یاد بگیرند کدام اطلاعات مهم هستند و کدام‌ها بی‌اهمیت. مثل یک دکتر خوب که خوب گوش می‌دهد و فرق بین حرف‌های مهم و حرف‌های بی‌اهمیت را می‌فهمد.
یک قدم به جلو!
این تحقیق یک قدم بزرگ به جلو است. نشان می‌دهد که ما باید همیشه مراقب باشیم و بفهمیم که حتی چیزهای خیلی پیشرفته هم ممکن است نیاز به کمک و یادگیری داشته باشند. علم پر از کشف و یادگیری است، و ما باید همیشه کنجکاو باشیم و از خودمان بپرسیم «چرا؟» تا دنیای بهتری برای همه بسازیم.
شاید روزی شما هم یک دانشمند شوید و به این کامپیوترهای هوشمند کمک کنید تا بهترین دکترهای دنیا باشند! پس همیشه درس بخوانید، کنجکاو باشید و از علم لذت ببرید!
LLMs factor in unrelated information when recommending medical treatments
هوش مصنوعی اخبار را ارائه کرد.
سوال زیر برای دریافت پاسخ از Google Gemini استفاده شد:
در 2025-06-23 04:00، Massachusetts Institute of Technology ‘LLMs factor in unrelated information when recommending medical treatments’ را منتشر کرد. لطفاً یک مقاله مفصل با اطلاعات مرتبط، به زبانی ساده که کودکان و دانش‌آموزان بتوانند بفهمند، بنویسید تا کودکان بیشتری به علم علاقه‌مند شوند. لطفاً فقط مقاله را به زبان فارسی ارائه دهید.