חוקר בינה מלאכותית מאמין שזה יכול להיות אסון לאנושות, אבל יש לו פתרון

Cercetătorul AI crede că ar putea fi un dezastru pentru umanitate, dar are o soluție
⏱️ 1 min read

הרבה ממה שאנחנו מדברים על טכנולוגיה זה איך היא תשפיע על העתיד, האם היא תהיה טובה או רעה, ואיך היא תשנה דברים. זה לא מגיע רק למשתמשי טכנולוגיה, אלא גם לאלה שמפתחים אותה.

חוקר בינה מלאכותית מוביל, סטיוארט ראסל, כל כך מעורב בטכנולוגיה שהוא שותף בכתיבת ספר על זה. עם זאת, במקביל, הוא גם הזהיר את הציבור כי בינה מלאכותית עלולה להיות הרת אסון עבור האנושותאבל יש לו פתרון.

יער אילנות (הארבורט...
יער אילנות (הארבורטום הלאומי)

תואם אנושי

בספרו האחרון של ראסל, “תואם לאדם”, הוא מסביר שמערכות בינה מלאכותית מוערכות לפי עד כמה הן משיגות את המטרה הסופית שלהן, בין אם זה ניצחון במשחק וידאו, כתיבת טקסט או פתרון חידות. אם אסטרטגיה מתאימה למטרה, הם משתמשים בה.

הוא מאמין שהמערכת הזו מובילה לכישלון מכיוון שה”מטרה” שניתנה למערכת הבינה המלאכותית היא לא הדבר היחיד שחשוב. למכונית בנהיגה עצמית יש “מטרה” לנסוע ממקום למקום, אבל גם חייהם של הנוסעים והולכי הרגל חשובים.

במילים אחרות, למערכות בינה מלאכותית אכפת רק ממה שאנו מתכנתים כמטרה, בעוד שלבני אדם אכפת מדברים רבים אחרים, וזה מה שראסל רואה כהרת אסון.

מומחה הבינה המלאכותית דיבר בראיון שנערך לאחרונה על הסכנות הללו שהוא מתאר בספרו החדש.

זה מדבר על בעיית “המלך מידאס” של קבלת הכל בדיוק כפי שביקשת. “אז אם זו תוכנית שחמט, אתה נותן לה את המטרה לנצח את היריב שלך או לנצח במשחק. אם מדובר במכונית אוטונומית, הנוסע שם את המטרה, [for instance,] אני רוצה להיות בשדה התעופה”, הסביר ראסל.

“הבעיה מתעוררת כאשר מערכות הופכות לחכמות יותר. אם אתה מגדיר את המטרה שגויה, המערכת שרודפת אחריך יכולה לנקוט בפעולות שאתה מאוד לא מרוצה מהן”, ציין.

כשנשאל למה אנחנו לא יכולים פשוט לתכנת את כל הדברים שאנחנו לא רוצים להגיד, כמו לא לעבור על שום חוק, לא להרוג אף אחד וכו’, ראסל משווה את זה לניסיון לכתוב חוקי מס. בני אדם תמיד ממציאים דרכים לעקוף את חוקי המס.

ראסל אומר, “זה לא משנה כמה אתה מנסה לשים מחסומים וכללים סביב התנהגות המערכת. אם הוא יותר חכם ממך, הוא ימצא דרך לעשות מה שהוא רוצה. “והוא מאמין שזה יחמיר את המצב הרבה יותר.

זו הסיבה שהוא מאמין שעלינו לנטוש את הדרך שבה AI מוגדר. במקום לציין אובייקט קבוע, ראסל מאמין שלמערכת הבינה המלאכותית צריכה להיות “דרישה חוקתית שתהיה מועילה לבני אדם”.

“אבל אתה יודע את זה לא יודע מה זה אומר”, הוא ממשיך. “אתה לא מכיר את ההעדפות שלנו. והוא יודע שהוא לא מכיר את ההעדפות שלנו לגבי איך העתיד אמור להתנהל.

“אז אתה מקבל התנהגות אחרת לגמרי. בעיקרון, מכונות נכנעות לבני אדם. הם שואלים לפני שהם עושים משהו שמתעסק בחלק מהעולם. ”

טעות בינה מלאכותית

ראסל גם מאמין ש”יש תפיסה שגויה כללית לגבי בינה מלאכותית – שמופצת על ידי הוליווד מסיבות של עלילות מעניינות ועל ידי התקשורת כי נראה שהם רוצים לשים תמונות של רובוטים של Terminator בכל מאמר. [guilty as charged for this article] – שזה מה שאנחנו צריכים לדאוג לגבי התודעה, שאיכשהו המכונות האלה יהפכו בטעות להכרה ואז ישנאו את כולם וינסו להרוג אותנו”.

במקום זאת, הוא מרגיש שעלינו לדאוג לגבי “התנהגות מוכשרת ויעילה בעולם. אם מכונות מחליטות עלינו, עולות עלינו בעולם האמיתי, עלינו להבין כיצד לוודא שהן תמיד פועלות בשמנו ולא נגד האינטרסים שלנו. ”

מה אתה חושב על הדרך הנוכחית בשימוש ב-AI? אתה חושב שזה יהיה אסון לעתיד שלנו? האם לדעתך הפתרון של ראסל יסיים את האפשרות הזו? ספר לנו מה אתה חושב בתגובה למטה.

Join our Newsletter and receive offers and updates! ✅

0 0 votes
Article Rating
Avatar of Routech

Routech

Routech is a website that provides technology news, reviews and tips. It covers a wide range of topics including smartphones, laptops, tablets, gaming, gadgets, software, internet and more. The website is updated daily with new articles and videos, and also has a forum where users can discuss technology-related topics.

You may also like...

Subscribe
Notify of
guest
0 Comments
Inline Feedbacks
View all comments
0
Would love your thoughts, please comment.x