מיקרוסופט רוצה שזיהוי פנים יוסדר כדי למנוע הטיה

Microsoft möchte, dass die Gesichtserkennung reguliert wird, um Verzerrungen zu vermeiden
⏱️ 1 min read

מאמר זה הוא סוג של המשך. לפני שישה חודשים פרסמנו חדשות שמיקרוסופט פועלת לתקן את תוכנת זיהוי הפנים שלה שנחשבה מוטה גזעית. כעת, אותה חברה קוראת להסדיר את זיהוי הפנים כדי למנוע הטיה. אז הם נתפסו עם תוכנה מוטה ועכשיו הם רוצים שהתעשייה כולה תהיה מווסתת כדי למנוע מאף אחד אחר תוכנה מוטה.

הבעיה הראשונית

כפי שדיווחנו ביוני, ה-Face API מבוסס Azure של מיקרוסופט זכה לביקורת במאמר מחקר. התוכנה התקשתה לזהות אנשים צבעוניים ונשים. שיעור השגיאות היה 20.8 אחוזים, אך עם “פנים גברים בהירים יותר”, היה שיעור שגיאות של אפס אחוז.

ההיגיון מאחורי הבדל ההכרה הזה הוא כי בינה מלאכותית הייתה צריכה להיות מתוכנת על ידי אנשים. התוצאות יהיו טובות רק כמו האנשים שעשו את התכנות. מתכנתי מיקרוסופט לא השתמשו במספיק אנשים עם גווני עור כהים יותר או מספיק נשים.

מיקרוסופט עבדה כדי לתקן זאת על ידי גיוון נתוני ההדרכה שלה והחלה בבדיקה פנימית של המערכות שלה לפני פריסתן. הם הצליחו להפחית את שיעור השגיאות עבור אנשים כהי עור פי עד פי עשרים ואת שיעור השגיאות עבור נשים פי תשעה.

דוחף לחקיקה

שישה חודשים לאחר מכן ו מיקרוסופט מבקשת ממשלות להעביר חקיקה דורשים שטכנולוגיית זיהוי פנים תיבדק באופן עצמאי כדי להבטיח שהיא מדויקת, כדי למנוע הטיה וכדי להגן על זכויות המשתמשים.

“ג’יני זיהוי הפנים, כביכול, רק יוצא מהבקבוק”, הסביר בראד סמית’, היועץ הראשי של מיקרוסופט, בפוסט בבלוג.

“אם לא נפעל, אנחנו מסתכנים להתעורר בעוד חמש שנים ולגלות ששירותי זיהוי פנים התפשטו בדרכים שמחריפות בעיות חברתיות. בשלב זה, יהיה הרבה יותר קשה לדכא את האתגרים הללו. ”

החברה קוראת לבדיקת תוצאות זיהוי פנים על ידי אנשים, במקום להשאיר את המשימה למחשבים.

“זה כולל מקום שבו החלטות עלולות ליצור סיכון של פגיעה גופנית או נפשית לצרכן, היכן שיכולות להיות השלכות של זכויות אדם או זכויות יסוד, או היכן שהחירות האישית או הפרטיות של הצרכן עשויה להיפגע”, הסביר.

חדשות-מיקרוסופט-זיהוי פנים-חקיקה-3-אנשים

בנוסף, הציע סמית כי מי שמשתמש בזיהוי פנים צריך “להכיר בכך שהם אינם פטורים מחובתם לציית לחוקים האוסרים על אפליה נגד צרכנים בודדים או קבוצות של צרכנים”.

הוא גם רצה לוודא שהשימוש של הממשלה בזיהוי פנים לא יפגע בחירויות הדמוקרטיות של אנשים ובזכויות האדם.

“אנחנו צריכים להבטיח ששנת 2024 לא תיראה כמו עמוד מהרומן של 1984”, סיכם.

יתר על כן

מיקרוסופט צודקת, כמובן. מעניין שלפני חצי שנה הם לא זיהו את הצורך להיזהר שהתוכנה שלהם לא תפלה, ועכשיו הם לא רק מכירים בכך, אלא גם רוצים לוודא שאף אחד אחר לא יכול לעשות את אותן הטעויות שהם עשו.

ללא קשר למצב הנ”ל, האם מיקרוסופט צודקת לדרוש חקיקה וכי זיהוי פנים יוסדר? ספר לנו מה אתה חושב על הבקשה של Microsoft בסעיף ההערות למטה.

How useful was this post?

Click on a star to rate it!

Average rating 0 / 5. Vote count: 0

No votes so far! Be the first to rate this post.

You may also like...