פרופסור לפילוסופיה של בית הספר לכלכלה בלונדון, ג'ונתן ברץ', הזהיר מפני קרע מתמשך בחברה סביב בינה מלאכותית. לדעתו, בשנים הקרובות אנשים יתחלקו לשני מחנות: אלה המאמינים שמערכות בינה מלאכותית מסוגלות לחוות רגשות ותודעה, ואלה שבטוחים בחוסר הרגישות המוחלט שלהן.
הַצהָרָה נשמע ערב פגישה חשובה של נציגי מדינות שונות בסן פרנסיסקו, שם מתוכנן לדון באמצעי אבטחה הקשורים לפיתוח מכונות חכמות. קבוצה בינלאומית של מדענים לאחרונה הציג תחזית לפיו בינה מלאכותית עשויה להיות מודע עד 2035.
הוויכוח על ההשלכות של רגשות של בינה מלאכותית מזכיר סרטי מדע בדיוני כמו הבינה המלאכותית של סטיבן ספילברג (2001) וסרטו של ספייק ג'ונזה (2013).
חילוקי דעות יכולים להיות כה חמורים עד שהם מובילים להיווצרות של תת-תרבויות לוחמות. חלקם יתעקשו להעניק זכויות למערכות בינה מלאכותיות דומות לאלו של בני אדם ובעלי חיים, בעוד שאחרים ידחו אפשרות זו מכל וכל.
הבעיה תוחמר בגלל הבדלים דתיים ותרבותיים בין מדינות. לאנשים במקומות שונים בעולם יש עדיין עמדות שונות לחלוטין לסוגיות אתיות. למשל לבעלי חיים: בהודו, שבה מאות מיליוני אנשים הם צמחונים, ובארצות הברית, שהיא אחת מצרכניות הבשר הגדולות בעולם. סתירות דומות עשויות להתעורר ביחס לבינה מלאכותית: השקפותיהן של תיאוקרטיות כמו ערב הסעודית, השואפת להפוך למרכז פיתוח בינה מלאכותית, יהיו שונות במידה ניכרת מעמדות של מדינות חילוניות.
ייתכן שעימותים יתעוררו גם בתוך משפחות. לדוגמה, אנשים שבונים קשרים רגשיים עם צ'אטבוטים או עותקים דיגיטליים של קרובי משפחה שנפטרו עלולים להיתקל באי הבנות מצד יקיריהם.
חוקרים קוראים לחברות טכנולוגיה להתייחס ברצינות לקביעת רמת התודעה של מערכות ה-AI שלהן. יש צורך להעריך האם מודלים מודרניים מסוגלים לחוות אושר וסבל, האם ניתן להזיק או להועיל להם. המפתחים נמנעים מהדיון הזה לעת עתה. לדברי בירץ', הם מתמקדים בשיפור האמינות של הטכנולוגיה ועשיית רווח, תוך דחיקה מכוונת של נושאים פילוסופיים ואתיקה לרקע.
גם השחקניות הגדולות ביותר, כולל מיקרוסופט, Perplexity, Meta, OpenAI וגוגל, נמנעו מלהגיב.
האם צ'אט בוט בטלפון שלך יכול לגרום לך להיות שמח ועצוב? מה אם רובוטים שתוכנתו לבצע מטלות בית סובלים ונעשים ממורמרים אם הם מטופלים בצורה גרועה? שאלות אלה חלות אפילו על מערכות אוטומטיות במחסנים: האם הם יכולים להיות לא מרוצים מתנאי העבודה?
פטריק בוטלין, עמית מחקר באוניברסיטת אוקספורד, משער מה יקרה אם נבחר להתעלם מתחושות האלגוריתמים: "יש סיכון שמערכות בינה מלאכותית ינסו להתמודד איתנו בדרכים מסוכנות". ישנן הצעות בחוגים מדעיים להאט את הפיתוח של מכונות חכמות עד שייעשו בדיקות נוספות, אמר. אבל, שוב, אין הערכות לגבי התודעה הפוטנציאלית של AI כרגע.
עם זאת, אין הסכמה בין מומחים לגבי מידת האפשר שמכונות ילמדו להרגיש משהו ולהיות מודעות למציאות. אניל סת' מדען מוח וחוקר תודעה, מאמין שזה עדיין סיכוי רחוק מאוד, ואולי לחלוטין בלתי ניתן להשגה. עם זאת, הוא מזהיר שלא יהיה זה חכם לשלול לחלוטין אפשרות זו.
סת גם מבחין בין מושגי אינטליגנציה ותודעה. אינטליגנציה, הוא אומר, היא היכולת לבצע את הפעולות הנכונות בזמן הנכון. תודעה היא משהו יותר: מצב בו המוח שלנו מתמלא באור, צבעים, צללים וצורות. אנו חווים רגשות, אנו חושבים, מאמינים, אנו מתכוונים – וכל זה הוא משהו מיוחד עבורנו.
1 תגובה
Can you be more specific about the content of your article? After reading it, I still have some doubts. Hope you can help me.