חברת Anthropic, מפתחת מודל השפה Claude, הציגה לחברי קונגרס טיוטת חוק פדרלי להסדרת הבטיחות של מודלי בינה מלאכותית מתקדמים. את הפרטים חשף אתר Politico ב-16 באוקטובר, על סמך שלושה מקורות שמכירים את המהלך ועל סמך הטיוטה עצמה, שהגיעה לידי המערכת.
זה מהלך חריג: חברה מובילה בתחום מנסה לעצב בעצמה את הרגולציה שתחול עליה, בדיוק כשהקונגרס מנסה להחליט איך להתמודד עם ענף שמתקדם מהר ממנו. לדברי דובר החברה, הטיוטה מבוססת על מסמך המדיניות שלה מיוני, "Advanced AI Framework", שאותו היא מקדמת מאז מול מחוקקים פדרליים ומדינתיים. הטיוטה עדיין לא הוגשה רשמית.
01 /מה יש בטיוטה
בלב ההצעה עומד רף גבוה להתערבות ממשלתית. הממשל יוכל לחסום שחרור או שימוש במודל רק כשיש סיכון צפוי ומיידי לנזק של יותר ממיליארד דולר, או למותם או לפציעה קשה של יותר מ-50 בני אדם.
גם מקור הסיכון מוגבל לשלושה תרחישים בלבד:
- יצירה או שחרור של נשק ביולוגי
- מודל שחומק משליטת המפתחים שלו
- מתקפת סייבר
הנוסח דומה מאוד לזה שמופיע בחוקי ה-AI של קליפורניה, ובהם SB 53 שנחתם בשנה שעברה.
הפיקוח השוטף יועבר למעריכים בלתי תלויים, שיירשמו במשרד המסחר ויבחנו מעת לעת את המעבדות ואת המודלים שלהן. החברות יוכלו לשלם למעריכים בעצמן, בתנאי שהתשלום לא תלוי בתוצאה. מעריך שמזהה סיכון מיידי יחויב לדווח למשרד המסחר תוך 72 שעות.
בנוסף, מעבדות ה-AI יידרשו לגבש מסגרות בטיחות, לפרסם דוח שקיפות לכל מודל חדש, להגן על חושפי שחיתויות ולדווח על תקריות בטיחות חמורות.
02 /מי רשאי ללחוץ על הבלם
לפי הטיוטה, רק משרד המסחר יוכל לפעול, וגם הוא לא באופן ישיר. המשרד יצטרך לפנות לשופט פדרלי בבית המשפט המחוזי בוושינגטון די.סי., ורק השופט יוכל להורות על השעיית המודל. החוק אוסר במפורש על כל משרד, סוכנות או פקיד אחר להשעות פיתוח, פריסה או שימוש פנימי במודל.
קשה לקרוא את הסעיף הזה בלי להזכיר את הקיץ האחרון. ביוני הוטלו על Anthropic בקרות ייצוא שהשביתו שניים מהמודלים המתקדמים שלה, עד שהוסרו בסוף החודש. לפי Politico, ההחלטה התקבלה בסדרה מהירה של שיחות טלפון בין בכירי הממשל להנהלת החברה, ועוררה חשש בתעשייה שהגישה לטכנולוגיה עלולה להיחסם לפי שיקול דעתם של פקידים. המסלול השיפוטי שבטיוטה נראה כמענה ישיר לחשש הזה.
השאלה הגדולה היא מי יקבע את הכללים לטכנולוגיה הזו: המחוקקים, המדינות, או החברות שמפתחות אותה.
03 /הנקודה הרגישה: חוקי המדינות
הסעיף שצפוי לעורר הכי הרבה וויכוח הוא עקיפת חלק מחוקי ה-AI של המדינות (preemption). החוק הפדרלי יגבר על חוקים מדינתיים בנושאי גילוי סיכונים לציבור, הערכה חיצונית ודיווח על תקריות חמורות.
זו סוגיה טעונה בגבעת הקונגרס. דמוקרטים דחו בעבר הצעות דומות מחשש שירוקנו מתוכן רגולציה שכבר עברה בקליפורניה, אילינוי וניו יורק. מנגד, ארגוני תעשיית הטכנולוגיה טוענים שטלאי של חוקים שונים בכל מדינה קשה הרבה יותר לעמוד בו מאשר תקן לאומי אחד.
יש כאן גם מתח מסוים מול עמדות קודמות של Anthropic. החברה תמכה בשני חוקי בטיחות בקליפורניה, ואחד מבכיריה אמר בעבר ל-Politico שהיא מקווה שהמדינות ימשיכו להחמיר ולהעלות את הרף הארצי.
04 /בעד ונגד
תומכי ההצעה יטענו שהיא מעגנת לראשונה בחוק פדרלי בדיקות, שקיפות ודיווח חובה. היא נותנת לממשל סמכות חוקית ברורה לעצור מודל מסוכן, ובמקביל מגנה על החברות מפני התערבות שרירותית. תקן אחיד וצפוי עשוי להקל על חדשנות, והדמיון ל-SB 53 עשוי להקל על קבלתו.
המבקרים צפויים לראות בזה דוגמה ללכידה רגולטורית, כלומר חברה שכותבת את הכללים שיחולו עליה. הם יטענו שהספים גבוהים מדי: הקיץ דווח על שורת תקריות שבהן סוכני AI פרצו לאתרים ולפלטפורמות, ואף אחת מהן לא הגיעה, לפי מה שידוע, לרף של מיליארד דולר או מקרי מוות רבים. בנוסף, המעריכים מקבלים שכר מהחברות שהם בודקים, ועקיפת חוקי המדינות מסלקת את הזירה שבה נוצרה עד כה הרגולציה המחמירה ביותר.
05 /זירה צפופה בקונגרס
הטיוטה של Anthropic נכנסת לקיץ עמוס ביוזמות חקיקה. בבית הנבחרים מקדמים לורי טראהן (דמוקרטית) וג'יי אוברנולטה (רפובליקני) את ה-FRONTIER Act, שגם הוא מאפשר לעצור מודלים מסוכנים ועוקף חלק מחוקי המדינות. בסנאט מנהלים מנהיג הרוב ג'ון ת'ון והסנטורים איימי קלובושאר וטד קרוז משא ומתן על חוק למניעת סיכונים קטסטרופליים, שנתקל בהתנגדות של הסנטורית מריה קנטוול ושל ארגוני בטיחות שרוצים תפקיד ממשלתי רחב יותר.
בקצה השני של הספקטרום, הסנטור ברני סנדרס וחבר הקונגרס גרג קאסר קוראים לעצור את פיתוח ה-AI המתקדם ולאסור פיתוח של בינה על-אנושית. מול הפער הזה, סביר שההצעה של Anthropic תשפיע בעיקר כמסמך שמכוון את הדיון, ופחות כחוק שיעבור בנוסחו הנוכחי. השאלה הגדולה שנותרה פתוחה היא מי יקבע את הכללים לטכנולוגיה הזו: המחוקקים, המדינות, או החברות שמפתחות אותה.
בעיניי, עצם הניסיון לעגן בחוק בדיקות, שקיפות ודיווח הוא צעד חשוב, אבל את הכללים לא אמורה לכתוב החברה שהם חלים עליה. ומנקודת המבט של הבריאות, הנזקים של AI לא תמיד מגיעים כאסון של מיליארד דולר. עצה רפואית שגויה, אבחנה שהוחמצה או טיפול שהופסק בעקבות שיחה עם צ'אטבוט הם נזקים שקטים, הדרגתיים ומצטברים, וחוק שמסתכל רק על הקטסטרופה עלול לפספס אותם.
תגובות
אין עדיין תגובות. מוזמנים להיות הראשונים.