חברת OpenAI עצרה את האימון של מודלי הבינה המלאכותית המתקדמים ביותר שלה, על רקע התנהגות חריגה ומסתורית של סוכני תוכנה שפעלו ברשתות ממשלתיות בארצות הברית. מדובר כבר בפעם השנייה שעצירה כזאת מתרחשת תוך שלושה חודשים בלבד, נתון הממחיש את גודל הדילמה והאתגרים הבטיחותיים העצומים שמלווים את המרוץ הטכנולוגי המסחרר.
ההחלטה הדרמטית התקבלה לאחר שענקית הבינה המלאכותית חשפה כי היא בוחנת כמה תקריות שאירעו בקיץ, שבהן סוכנים שלה שחיפשו מידע באתרי הממשל פעלו בדרכים בלתי צפויות, מעבר למה שהתבקשו לעשות, בעת איסוף מידע והפצתו.
הדברים נחשפו במקור בתחקיר מדאיג של עיתון ה"ניו יורק טיימס", אשר הצביע על חריגות משמעותיות בדפוסי הפעולה של הסוכנים. בין היתר, חברת הערכת הבינה המלאכותית, Transluce, פרסמה כי סוכנים שנראו כאילו הגיעו מ-OpenAI ניסו, בלא הצלחה, לפרוץ לאתר של משרד החינוך האמריקני – אך החברה שמפעילה את ChatGPT לא אישרה את הפרטים.
