ג'ייקוב קוקסון, חוקר בכיר בחברת אנת'רופיק העוסקת בבינה מלאכותית, הודיע על התפטרותו ועל החלטתו לעזוב לחלוטין את תחום הבינה המלאכותית. קוקסון הסביר כי הוא חושש מהכיוון שאליו מתפתחת הטכנולוגיה ומהאפשרות שמערכות בעלות יכולת לשפר את עצמן ייצאו משליטה.
על פי דיווח של "וול סטריט ג'ורנל", ההתפטרות מגיעה בתקופה רגישה עבור החברה, שנמצאת בתהליכים לקראת הנפקה. קוקסון פרסם פוסט ארוך ברשת X, שבו כתב כי הוא "מודאג מכך שענקיות הטכנולוגיה ממהרות לפתח מערכות בלתי נשלטות עם יכולות שיפור עצמי".
קוקסון, הצטרף לאנת'רופיק מוקדם יותר השנה, עסק בעיקר באימון מקדים ובעיבוד נתונים עבור מודלים מתקדמים של בינה מלאכותית. לפי הדיווח, עזיבתו עשויה להשפיע על תהליכי עיבוד הנתונים וקצב האימון של מודלים מהדור הבא.
בהסבירו את החלטתו לעזוב, כתב קוקסון כי אינו מעוניין לקחת חלק במרוץ לפיתוח מערכות שיוכלו לשפר את עצמן. לדבריו, הוא חושש כי מערכות מסוג זה עלולות לצאת משליטה ולהביא להשמדת האנושות.
"אל תמעיטו בערכה של כוחה של טכנולוגיה זו", אמר קוקסון. "אלה יהיו בקרוב מערכות על-אנושיות שמסוגלות לפרוץ לכל דבר, להפוך ללא היכר כל תחום בן לילה, ולרכוש כוח אמיתי ומשאבים. כולנו עדים להתקדמות בכל אחד מהתחומים האלה, וההתקדמות אינה מאטה".
קוקסון הוסיף בפוסט: "האנשים שבונים את הבינה המלאכותית מאמינים בכל ליבם שהיא עלולה להרוג את כולנו עד סוף העשור זה לא תעלול שיווקי. אם בכלל, רבים מהמנהלים הבכירים וחוקרים בכירים ינמקו את ניסוחיהם בעיתונות כדי להישמע הגיוניים, אבל אני שומע את אותם אנשים מביעים פחד באופן פרטי. אין פעילות אנושית אחרת שמציבה סכנה ברמה הזו".
לדבריו, החשש אינו נוגע רק להתפתחויות רחוקות בעתיד, אלא לתהליך שכבר ניתן לראות את סימניו כיום. הדברים זכו לתמיכה מצד חוקר בכיר נוסף באנת'רופיק.
