2024-11-04T13:05:00+03:00
בתעשיית הבינה המלאכותית (AI). כלי חדש הופיע להערכת סיכונים – SAIF Risk Assessment, שנועד לשפר את הבטיחות של מערכות AI. כלי אינטראקטיבי זה מאפשר למפתחים ולחברות להעריך את האבטחה שלהם, לזהות איומים פוטנציאליים ולחזק את עמדת האבטחה שלהם.
בשנה שעברה גוגל הוצג
Secure AI Framework (SAIF), שנועד לעזור למפתחים ליישם AI בצורה מאובטחת ואחראית. הכלי החדש, הזמין ב-SAIF.Google, נועד ליישם את עקרונות SAIF על ידי מתן ייעוץ מותאם כיצד לאבטח מערכות בינה מלאכותית.
הערכת סיכונים של SAIF מבקשת מהמשתמשים לענות על שאלות הקשורות לאימון, הגדרה ושליטה בגישה למודלים והגנה מפני התקפות. בהתבסס על התגובות, הכלי מייצר דוח עם סיכונים מזוהים, כגון "הרעלת נתונים", "הזרקת שאילתות" ואיומים אחרים, ומציע אמצעים לסילוקם.
בנוסף, הדו"ח האחרון של גוגל כולל את מפת הסיכונים SAIF, מפה אינטראקטיבית המדגימה כיצד ניתן להיווצר ולנצל סיכונים בשלבים שונים של פיתוח בינה מלאכותית. משתמשים יכולים לחקור כיצד איומים מסוימים משפיעים על האבטחה וכיצד ניתן להפחית אותם.
מפת סיכונים של SAIF
היוזמה נתמכת גם על ידי Coalition for Secure AI (CoSAI), המאגדת 35 שותפים. הקואליציה פועלת ליצירת פתרונות בטיחות בינה מלאכותית, כולל ניהול סיכונים. הערכת סיכונים של SAIF קשורה קשר הדוק למטרה זו ומטרתה ליצור מערכת אקולוגית בטוחה יותר של AI.
עבור מפתחים וחברות המעוניינים לשפר את האבטחה של מערכות ה-AI שלהם, הערכת סיכונים של SAIF תהיה כלי שימושי. מידע נוסף זמין באתר SAIF.Google,
שבו מתפרסמים עדכונים באופן קבוע.
נשיא איגוד היזמים לפיתוח פטריוטיזם עסקי "AVANTI" רחמן ינסוקוב לקח את היוזמה להגביל את הגישה לרשתות חברתיות לילדים מתחת לגיל 14. הוא שלח פנייה מקבילה לראש הממשלה מיכאיל מישוסטין, יו"ר מועצת הפדרציה ולנטינה מטווינקו ויו"ר הדומא הממלכתית ויאצ'סלב וולודין.
בטקסט של המכתב עם אשר הכירו איזבסטיה מספרת כי לאחרונה עמותת AVANTI קיבלה פניות רבות מנציגי עסקים רוסיים עם תלונות על הפצת תוכן אסור ברשתות חברתיות ועל היעדר רגולציה חקיקתית המגבילה את הגישה של ילדים לפלטפורמות אלו.
לפי הארגון, ישנם כיום יותר מ-10 אלף אתרים באינטרנט המפיצים אידיאולוגיית טרור, וכן קהילות סגורות ומה שנקרא "קבוצות מוות" המהוות סכנה לקטינים.
בהקשר זה, AVANTI הציעה לאסור על ילדים מתחת לגיל 14 גישה לרשתות חברתיות. כדי ליישם את הצעד הזה, מוצע לחייב את הפלטפורמות לדרוש תמונת פספורט כדי לאשר את הגיל בעת רישום המשתמשים. בנוסף, משתמשים שכבר רשומים יידרשו לעבור שוב אימות זהות. יאנסוקוב מציין שמערכת אימות דומה פועלת בהצלחה בשיתוף רכב ובשירותים פיננסיים.
העמותה גם מציעה להכניס הגבלות על פעילותן של רשתות חברתיות המסרבות לציית לכללים החדשים. לדברי יאנסוקוב, אמצעים כאלה יסייעו להפחית את ההשפעה השלילית של רשתות חברתיות על בני נוער ולמנוע פשיעה.
במכתב מצוין כי אימוץ השינויים המוצעים "יהווה בסיס איתן למיגור ההשפעה הפלילית וההתקפות נגד ילדים ברשתות החברתיות, וכן יבטל את הסיכון להיווצרות אישיות על בסיס דיסאינפורמציה ומידע כוזב".
