איפה? מתי? - 2024 במדעי המחשב ומה צפוי לנו ב-2025 בתחום התואר שלנו
- איתמר ירון
- 2 בינו׳
- זמן קריאה 2 דקות
עודכן: 22 באפר׳
הכירו את פריצות הדרך והחידושים העיקריים שהביאה איתה 2024 במדעי המחשב, ומה מחכה לנו ב-2025.
האם LLM's יכולים ללמוד?
כן! אבל..חוקרים פיתחו מודל מתמטי חדש שמסביר איך המודלים האלו מפתחים יכולות חדשות. הם גם בדקו שיטה בשם "שילוב מיומנויות" (Skill Mix), שמראה שמודלים גדולים יותר, כמו GPT-4, יכולים לשלב מיומנויות שונות כמו הבנת שפה טבעית, מענה על שאלות, כתיבת טקסט יצירתי, תרגום שפות, וסיכום טקסטים בצורה טובה יותר ממודלים קטנים. מיומנויות אלה יכולות להיות שונות זו מזו, אך שילובן יחד מעיד על היכולת של המודל להתמודד עם משימות מורכבות ורב-תחומיות בצורה יעילה יותר.תופעה נוספת שנחקרה היא "גרוקינג" (Grokking), מצב שבו מודלים מראים שליטה מפתיעה אחרי אימון ממושך, גם אם באימונים הראשונים לא הצליחו לבצע על משימות מסוימות. תופעה זו עוזרת לנו להבין איך בינה מלאכותית מעבדת מידע.המסקנה העולה היא שמודלי שפה אינם "תוכים אקראיים" (stochastic parrots) שחוזרים על נתונים שהם כבר נחשפו אליהם, המחקרים החדשים מראים סימנים לכך שמודלים אלו מסוגלים לפתח יכולות חדשות ולשלב מיומנויות באופן יצירתי. אמנם, עדיין אין הוכחה חד-משמעית שהם מבינים שפה כמו בני אדם, אבל הם בהחלט מתקרבים ליכולות שמדמות הבנה ולמידה.
פרס נובל לכימיה ל-AI?
בינה מלאכותית עשתה קפיצות דרך בביולוגיה. אלגוריתם בשם AlphaFold 2 של חברת DeepMind הצליח לחזות בצורה מדויקת את המבנה התלת-ממדי של חלבונים. הגרסה החדשה, AlphaFold 3, אפילו מסוגלת לחזות איך חלבונים מתקשרים עם מולקולות אחרות ולעצב חלבונים חדשים. התגלית הזו הובילה לפרס נובל לכימיה והעלתה את השאלה - האם הפרס מגיע בעצם ל-AI?למתעניינים - סרטון איך בינה מלאכותית פיצחה את מבנה החלבון?
מחשוב קוונטי
בתחום המחשוב הקוונטי, פותח אלגוריתם חדש שיכול לתאר מערכות קוונטיות בצורה יעילה - Hamiltonian Learning Algorithm (כל מי שלמד אלגוריתמים - כן זה המילטון שאנחנו מכירים). האלגוריתם משתמש בשיטות מתמטיות מתקדמות כדי לפתור בעיות מורכבות. אחד הגילויים החשובים השנה היה שיש טמפרטורה מסוימת שבה הקשרים הקוונטיים (שזירה) נעלמים לחלוטין. חוקרים גם התקדמו בתחום תיקון שגיאות במחשבים קוונטיים. צוות בגוגל הצליח לשפר את היכולת לתקן שגיאות, ופותחו שיטות חדשות שמאפשרות למחשבים קוונטיים לעבוד בצורה אמינה יותר.
תחומים נוספיםחוקרים הצליחו לפתור בעיה ישנה במדעי המחשב ולמצוא את המספר החמישי של "ביזי ביבר" (Busy Beaver), שהוא 47,176,870. "ביזי ביבר" הוא שמה של בעיה לא כריעה במדעי המחשב, העוסקת בשאלה: "כמה עבודה ניתן לעשות באמצעות מכונת טיורינג עם מספר נתון של מצבים אפשריים, שפועלת על סרט ריק ועוצרת?".
בבריטניה הושק מחשב-על חדש בשם Isambard-AI. מחשב זה הוא בין המהירים בעולם ויכול לבצע חישובים בשנייה אחת שהיו לוקחים לאנשים מיליארדים של שנים. המחשב משמש למחקר בבינה מלאכותית, גילוי תרופות, וחקר האקלים.
מה טומן לנו 2025?
תקווה עיקרית - מחשוב קוונטי! אף אחד לא יקרא עכשיו כתבה על איך ומהו מחשוב קוונטי. אז הנה לנו כמה סרטונים קצרים, קלילים ומאוד אינפורמטיבים שיראו לנו שמחשוב קוונטי זה לא מה שאנחנו חושבים - זה הרבה יותר מגניב!
חומרי קריאה נוספים:
Comments