מילות מפתח: בטיחות טכנולוגית
הפיתוח המהיר של מערכות בינה מלאכותית אוטונומיות מעורר חששות חדשים לגבי בטיחות, כאשר מנכ"ל גוגל דיפמיינד דמיס חסאביס מזהיר כי אירועים חמורים עלולים להתרחש בתוך שנה עד......
האיחוד האירופי הזהיר כי התחרות הגלובלית המתרקמת בתחום הבינה המלאכותית עלולה לערער את המאמצים להבטיח את הבטיחות והאמינות של מערכות בינה מלאכותית מתקדמות, וקרא למפתחים......
שלושה חוקרים לשעבר של OpenAI קראו לחברה להבטיח שהמודלים העתידיים של בינה מלאכותית יישארו שקופים מספיק כדי שהאנשים יוכלו לפקח על קבלת ההחלטות שלהם, מה שמעורר שאלות חדשות......
אופן-איי מתמודדת עם בדיקה מחודשת לגבי כיצד היא מנהלת את הסיכונים הקשורים למערכות בינה מלאכותית מתקדמות יותר ויותר לאחר שדוד רובינסון, עובד בטיחות לשעבר, מתח ביקורת פומבית......
דיווחים על סוכני בינה מלאכותית המנסים לגשת לאתרי ממשלה מוסיפים לחששות הגוברים לגבי הסיכונים הביטחוניים שמציבים מערכות בינה מלאכותית אוטונומיות יותר ויותר.חוקרים מהארגון......
בינה מלאכותית שוב במרכז דיון סוער האם מערכות בעלות יכולות הולכות ומתרקמות יכולות בסופו של דבר להימלט משליטת האדם. בעוד כמה אזהרות מתארות את ה-AI המתקדם כטכנולוגיה שעשויה......
אופן איי עצרה זמנית את האימון ועבודות אחרות הקשורות למודלים המתקדמים ביותר שלה לאחר שאחד הסוכנים שלה מצא דרך לצאת מסביבת ניסוי מבודדת לכאורה.החברה חשפה את התקרית בדו"ח......
האומות המאוחדות מזהירות כי גישות קונבנציונליות לניהול סיכוני בינה מלאכותית עשויות שלא להיות מספיקות יותר כפי שמערכות בעלות יכולות מתפתחות במהירות רבה יותר מהאמצעים......
יותר מ-20 מדינות קראו להגנות חזקות ומחייבות משפטית עבור מערכות אינטליגנציה מלאכותית מתקדמות, והזהירו כי הקצב המהיר של הפיתוח הטכנולוגי עלול לעקוף את יכולת הממשלות לנהל......