ESG בעידן הבינה המלאכותית: כשהחברות מנסחות את כללי המשחק

חברת אנתרופיק, שעומדת מאחורי כלי הבינה המלאכותית "קלוד", פרסמה לאחרונה את החוקה של קלאוד, מסמך פומבי ומפורט המגדיר את הערכים, העקרונות והגבולות האתיים שלפיהם פועלת תשתית הבינה המלאכותית שהיא פיתחה. החוקה מפרטת את ערכי הליבה שהבינה המלאכותית פועלת לפיהם – כלומר, את הנחות היסוד המוסריות שמוטמעות באלגוריתם של קלאוד. המסמך מבהיר כיצד המערכת אמורה לפעול במצבים רגישים, אילו סוגי שימוש יש להגביל, ואילו שיקולים אמורים להנחות קבלת החלטות. החברה לא פרסמה קוד אתי כללי, אלא מסמך תפעולי מפורט, המכיר בכך שהטכנולוגיה איננה "אובייקטיבית" אלא מונעת מתפיסה חברתית ומוסרית - בתוך ליבת המוצר עצמו.

במסגרת מחויבותן של חברות הטק הגדולות ל-ESG, מהלכי משילות דומים בוצעו גם על ידי חברת מטא (Meta Responsible Use Guide) ועל ידי חברת OpenAI (Safety at every step), אך עדיין ניתן לראות ייחודיות במהלך של אנת'רופיק – ברמת הפירוט ובישימות של הכלי שפורסם.

אנתרופיק מנסחת במפורש את ההצדקה למהלך: הכרה בכוח ההולך וגדל של כלי הבינה המלאכותית ובהשפעתם הפוטנציאלית על שווקים, מוסדות חברתיים וחיי אדם. העוצמה, ההיקף והקצב שבו טכנולוגיות בינה מלאכותית מתפתחות הם המובילים, לטענת החברה, לצורך ביצירת "חוקה" - כלומר, מנגנון משילות שמטרתו לרסן, לכוון ולתווך את השימוש בכוח הזה ולמנוע כשלים חמורים ופגיעה באנשים, בעסקים או בקהילות.

הצהרה ערכית או היגיון כלכלי קר?

אפשר להתרשם מההיבטים המוסריים של המהלך, אבל ניתן לקרוא אותו גם דרך עדשה כלכלית־ארגונית. על פי הכלכלה הקפיטליסטית "הקלאסית" (של מילטון פרידמן, מייקל ג'נסן או מייקל פורטר), אין היגיון כלכלי בכך שחברה עסקית תרסן את עצמה. כביכול, כל מהלך שמצמצם את החירות של החברה העסקית מטיל עליה עלויות או מונע ממנה רווחים אפשריים. אם נישען על ההיגיון הקפיטליסטי הקלאסי, אפשר היה לטעון שהבחירה של אנתרופיק לפרסם חוקה נובעת מאג'נדה חברתית גרידא. אפשר היה אפילו לטעון שהנהלת החברה חורגת מהסמכות שלה כלפי בעלי המניות כשהיא מטילה על החברה הגבלות[1].

אפשרות מעניינת יותר היא להתבונן על המהלך הזה דווקא דרך הגישה של הכלכלן אוליבר ויליאמסון, מאבות תיאוריית עלויות העסקה. ויליאמסון הרחיב את ההיגיון הקפיטליסטי וטען שארגונים עסקיים פועלים בסביבות המאופיינות באי-ודאות, יחסי תלות וא־סימטריה במידע. במצבים כאלה, הם נדרשים למנגנוני הגנה (safeguards): חוזים, פיקוח, רגולציה ומבני משילות – שנועדו להגן על הצדדים מפני סיכונים אופורטוניסטיים. מנגנוני הגנה אלה  תלויים בעיקר במדיניות ציבורית. הוא טוען שבמצבים שבהם המדיניות אינה עקבית או הפכפכה, או כשהמדינה לא לוקחת אחריות על יציבות השוק – הסיכון לחברות עולה והעסקה הופכת יקרה יותר, מה שמעלה, בתורו, את מחיר המוצר לצרכן.

כלומר, מנקודת מבטו של ויליאמסון, הבחירה של אנתרופיק לפרסם חוקה אינה בהכרח הצהרה ערכית גרידא - אלא מהלך כלכלי רציונלי: השקעה במנגנוני הגנה פנימיים שמפחיתים עלויות עסקה ומייצרים יציבות, בסביבה שבה הרגולציה הממשלתית אינה מספקת תשובה מלאה.

יחסי הכוח משתנים

בעשורים האחרונים החברות העסקיות עשירות וחזקות יותר מרוב מדינות העולם: מדינות רבות תלויות בחברות הגדולות בניהול התשתיות הטכנולוגיות שלהן, ומבחינת השליטה במידע – ברור כי לחברות יש יתרון על המדינות[2]. במציאות החדשה, תאגידים הגדילו משמעותית את היקף כוחם והשפעתם, בעוד שממשלות מתקשות להתמודד עם ההשפעות הרחבות שהם מייצרים. במצב זה, חלק מן הלחץ להסדרת פעילות החברות עובר מן מדינות אל מנגנונים אחרים – דוגמת בעלי מניות ושווקים פיננסיים.

שינוי יחסי הכוח הזה יוצר בדיוק את ההקשר שבו ניתן להבין את מהלך אנתרופיק - לא כמחווה מוסרית, אלא כתגובה רציונלית לסביבה שבה ההגנה המדינתית אינה אמינה יותר. כאשר מנגנוני ההגנה המדינתיים חלשים הסיכון עולה ואיתו עלויות העסקה. המשמעות היא שהמדיניות אינה יכולה עוד לתפקד לבדה כמנגנון הגנה. כלומר, במקום להסתמך רק על מנגנוני הגנה חיצוניים, ארגונים יכולים להשקיע בבניית אמון, כללים פנימיים ושקיפות מול כלל בעלי העניין: רגולטורים, משתמשים, שותפים עסקיים והציבור הרחב. ניהול כזה מפחית אי־ודאות, מצמצם סיכונים תדמיתיים ומשפטיים, ולעיתים אף מקטין את הצורך בהתערבות רגולטורית כבדה[3].

רגולציה וולונטרית ככלי לממשל תאגידי (Governance)

נקודת מבט נוספת, המעמיקה את ההסבר הכלכלי ומחברת אותו לתחום המדיניות הציבורית, מגיעה מתחום חקר הרגולציה. הפעולה של אנתרופיק היא יוזמה של רגולציה וולונטרית: זוהי רגולציה שאינה נכפית על ידי המדינה, אלא נולדת מתוך השדה העסקי. לפי מדעני המדינה, הרגולציה הוולונטרית מתקיימת בהקשר של "קפיטליזם רגולטורי": הפרטה והרחבה של מדיניות מקדמת שוק, שבאה על חשבון אספקה ישירה של שירותים על ידי המדינה, לצד גידול מתמשך בהיקף ובמורכבות מנגנוני הפיקוח. החוקרים מתארים אותה כרגולציה "פוליצנטרית" ו"היברידית", שאין לה מוקד מרכזי יחיד שממנו היא נגזרת. במקום זה, משטרי רגולציה מתהווים באמצעות שילוב של שחקנים שונים, ציבוריים, פרטיים וחברתיים, המעורבים ביזום, בהפעלה, בבקרה ובאכיפה[4].

כלומר, ארגונים בוחרים לעצב רגולציה ולהחיל אותה על עצמם, מכמה טעמים: ראשית, כדי להשיג יתרון תחרותי מול חברות אחרות, בכך שהם מסמנים לצרכנים ולשחקנים אחרים באקו־סיסטם שהם עומדים בכללי אתיקה. כך, החוקה מגדירה במפורש כי קלוד לא יסייע ביצירת תוכן מניפולטיבי, גם כאשר המשתמש מבקש זאת. זוהי הגבלה עצמית המסמנת לצרכנים ולשותפים עסקיים: "הכלי הזה אינו נשק; ניתן לסמוך עליו". שנית, כדי להקדים תרופה למכה – לעצב את הכללים לפני שמדינות או ארגונים על־מדינתיים יעצבו חוקים ותקנות שקשה יותר לעמוד בהם. החוקה מכילה התייחסות מפורשת לתרחישי סיכון רגולטוריים עתידיים, כמו שימוש בבינה מלאכותית לצרכי פיקוח המוני או להשפעה על בחירות, ומגבילה תרחישים אלה מראש. עיקרון ההגבלה העצמית לא נשאר על הנייר בלבד - הוא יצא לפועל גם מול גורמים חיצוניים: לאחר פרסום החוקה, אנתרופיק התפרסמה גם בזכות עימות פומבי עם הפנטגון האמריקאי, שבמסגרתו דרשה מהפנטגון להתחייב על גבולות השימוש בקלוד, לפני ההתקשרות עמם.

מעבר לגבולות התאגיד

המהלך אינו נעצר בגבולות התאגיד: חברת אנתרופיק בחרה לפרסם את החוקה במלואה וכן סט של הנחיות טכנולוגיות בשפה המיועדת להטמעה בכלי בינה מלאכותית אחרים. בדברי הפתיחה של החוקה, החברה מעודדת שחקנים אחרים בתחום לאמצה, ובכך מקדמת מסגרת של רגולציה וולונטרית לכלל השוק, באופן שממצב את מעמדה של אנתרופיק בשוק התחרותי של הבינה המלאכותית. בעימות עם הפנטגון, אנתרופיק תפסה תפקיד פוליטי של ממש, כאשר בחרה לא רק להגביל את השימושים, אלא גם להביא את העימות לתקשורת העולמית.

החוקה של אנתרופיק והעמדה הציבורית של התאגיד משתלבות הן בהיגיון הרגולטורי והן בהיגיון הכלכלי. באמצעות ממשל תאגידי וולונטרי: גבולות, נורמות ואחריות, החברה מאותתת שהיא מודעת לסיכונים ושהיא לוקחת אחריות עליהם. כלומר, היא מסמנת לצרכנים ולמתחרים כי יש לה יתרון תחרותי "ערכי". לצד זאת, ההשקעה ביצירת רגולציה וולונטרית מיועדת להפחית עלויות עסקה, שהיו נגזרות מרגולציה חיצונית ומהצורך להיענות לפיקוח של מדינות או של גופים על־מדינתיים (כמו האיחוד האירופי וה-OECD).

לסיכום, "החוקה של קלוד" היא לא רק הצהרה ערכית, אלא כלי אסטרטגי-ארגוני לניהול סיכונים, ולהפחתת עלויות עתידיות - על ידי עיצוב הסביבה הרגולטורית המתהווה. ייתכן שמדובר במהלך המדגים כיצד ESG, רגולציה וחדשנות טכנולוגית נפגשים: מודל שבו אחריות חברתית אינה מנוגדת לאינטרס העסקי, אלא חלק בלתי נפרד ממנו. עם זאת, עלינו לשאול את עצמנו: בעידן שבו עסקים מעצבים חלקים מהרגולציה שהם כפופים לה: מהו תפקידם החדש של הרגולטורים? האם הם עדיין מייצגים את האינטרס הציבורי הרחב? ואילו כלים נדרשים למדינות על מנת להתמודד עם הכוחות התאגידיים הגלובליים והסביבה הרגולטורית המאתגרת הזו?

---

*רוני ליאור - דוקטורנטית באוניברסיטה העברית, חוקרת Stakeholder Theory ומעורבות של המגזר העסקי בעיצוב מדיניות חברתית.

[1] Freeman, R.E; Harrison, J.S; Wicks, A.C; Parmar, B.L; De Colle, S, (2010), Stakeholder Theory – The State of the Art, Part II: Stakeholder theory and traditional disciplines of business. Cambridge University Press, UK [book].

[2] Strange, Susan (1996). "The Retreat of the State: The Diffusion of Power in the World Economy". Cambridge: Cambridge University Press. [book]

[3] Freeman et al., שם

[4] טליאס, מוטי (2019). "רגולציה וולנטרית בישראל", בתוך גל-נור וטבת, רגולציה בישראל: ערכים, אפקטיביות, שיטות. מכון ון-ליר בירושלים והוצאת הקיבוץ המאוחד. עמ' 395-446 [ספר].