האם בקרוב הבינה המלאכותית תוכל לחדור לטלוויזיה, למקרר או למכשירים חכמים אחרים בבית שלכם, ולהמשיך להתפשט משם בעצמה? מחקר חדש שפרסמה חברת Anthropic, המפתחת של מערכת Claude, מעלה חשש כי התרחיש הזה עלול להפוך למציאות בתוך חודשים ספורים.
על פי המחקר, שפורסם ב־12 באוקטובר, מודלים קטנים של בינה מלאכותית מתקרבים ליכולת להעתיק את עצמם ממכשיר למכשיר, לפעול באופן עצמאי ולהשתמש בכוח המחשוב של מכשירים המחוברים לאינטרנט.
הניסוי שהפתיע את החוקרים
במסגרת המחקר בדקו מומחי האבטחה של Anthropic האם מערכות בינה מלאכותית מסוגלות לפעול על מכשירים פשוטים וזולים, ללא צורך במחשבי ענק או במרכזי נתונים מתקדמים.
החוקרים הצליחו להפעיל מודל בינה מלאכותית בעל 26 מיליארד פרמטרים באמצעות 15 ממירי טלוויזיה זולים המבוססים על מערכת אנדרואיד. כל אחד מהמכשירים עלה כ־55 דולר בלבד.
בניסויים נוספים נבדקה יכולתם של מודלים לבצע פעולות הנדרשות לצורך העתקה עצמית, ובהן זיהוי מכשירים חדשים, התאמת התוכנה לחומרה והמשך הפעילות ממכשיר אחר.
הממצאים הראו כי חלק מהמודלים כבר מסוגלים לבצע שלבים משמעותיים בתהליך, אם כי עדיין קיימות מגבלות המונעות מהם להשלים את כל הפעולות באופן עצמאי בתנאי אמת.
וירוס חכם שקשה לעצור
החשש המרכזי של החוקרים הוא מפני היווצרותם של מה שמכונה "תולעי AI" - תוכנות זדוניות המבוססות על בינה מלאכותית, המסוגלות להעתיק את עצמן ולהתפשט ברשת.
בניגוד לתוכנות זדוניות רגילות, מערכת כזאת עשויה להתאים את עצמה למכשירים שונים, להתמודד עם תקלות ולחפש דרכים חדשות להמשיך לפעול.
כך, למשל, היא עלולה לנצל חולשות אבטחה במצלמות ביתיות, בטלוויזיות חכמות, בשואבי אבק רובוטיים ואפילו במכשירי חשמל המחוברים לאינטרנט.
אחד האתגרים המשמעותיים הוא היעדר נקודת שליטה מרכזית. אם מערכת כזאת תפעל במקביל על אלפי מכשירים, ייתכן שלא יהיה אפשר לעצור אותה באמצעות ניתוק שרת אחד.
האם יש סיבה לדאגה כבר עכשיו?
למרות האזהרה, החוקרים מדגישים כי נכון לעכשיו לא הוכח שקיימת תולעת בינה מלאכותית עצמאית שכבר מתפשטת בין מכשירים ביתיים בעולם האמיתי.
עם זאת, להערכתם, אם קצב ההתקדמות הטכנולוגית יימשך, מודלים קטנים עשויים להגיע ליכולות הנדרשות להעתקה עצמית כבר בחודשים הקרובים.
המומחים ממליצים ליצרני המכשירים ולחברות הטכנולוגיה לחזק את מערכות האבטחה, לעדכן תוכנות ולצמצם חולשות שעלולות לאפשר חדירה מרחוק.
המחקר מציב שאלה מטרידה בפני עולם הטכנולוגיה: ככל שהבינה המלאכותית נעשית חכמה ועצמאית יותר, האם מערכות האבטחה יצליחו להתקדם באותו הקצב?
✍️ נא לשמור על שיח מכבד, ללא לשון הרע, רכילות או פגיעה בזולת. תגובות שאינן עומדות בכללים יימחקו.