משפט יעיל, משפט ריק

פרק א: מסגרת מושגית - מהי לגיטימציה משפטית?

פרק זה מבקש לבנות את אמת-המידה שבה יימדדו, בפרקים הבאים, שש החזיתות שבהן פוגשת הבינה המלאכותית את המשפט. הצורך במסגרת מושגית מוקדמת אינו עניין של סדר טוב בלבד. הטענה שהוצגה במבוא - כי לפנינו שינוי-משטר במקורות הלגיטימציה ולא שדרוג אינסטרומנטלי - עומדת או נופלת על היכולת לומר בבהירות מהי אותה לגיטימציה שעל התרוקנותה מתריע המאמר, ומדוע אין היא מתמצה בכך שהמערכת "עובדת". בלא מסגרת כזאת, כל דיון בטכנולוגיה המשפטית גולש כמעט בהכרח למגרשה של היעילות: המבקר נדרש להראות שהמכונה טועה, מפלה או מזייפת, והמצדד משיב שהיא טועה פחות מן האדם - והוויכוח כולו מתנהל בתוך הפרדיגמה שאותה ביקשתי להעמיד בסימן שאלה. אבקש להראות כי מן הקאנון של תורת המשפט המודרנית ניתן לחלץ שישה תנאי-סף מובחנים, המכסים יחדיו את תשומותיו של המשפט, את הליכיו ואת תוצריו - ואשר כל אחד מהם, כך יתברר, ניצב היום מול חזית טכנולוגית המפרקת אותו.

בין יעילות לתוקף

נקודת המוצא היא הבחנה ותיקה, שקל לאבד אותה דווקא בעידן שבו הכול נמדד בביצועים: ההבחנה בין סמכות אפקטיבית לבין סמכות לגיטימית. סמכות אפקטיבית היא עובדה סוציולוגית - מערכת שהוראותיה זוכות לציות בפועל, מסיבה כלשהי: פחד, הרגל, תועלת, אדישות. סמכות לגיטימית היא טענה נורמטיבית - מערכת שהוראותיה מקימות חובת ציות, כלומר שיש לנמעניה טעם מוצדק לציית לה גם כאשר תוכן ההוראה הקונקרטית אינו נראה בעיניהם. הפער בין השתיים הוא לב העניין: גם משטר כוחני משיג ציות, ולעיתים ציות מרשים ביותר; שודד המאיים באקדח משיג היענות מלאה לדרישותיו. אך איש לא יאמר כי קמה לו סמכות. ציות, כשלעצמו, אינו מעיד על דבר מלבד יעילותו של מנגנון הכפייה או התמריץ. מדד הציות מודד את המערכת; מדד הלגיטימציה מודד את היחס בין המערכת לבין נמעניה.

הארט העניק להבחנה זו את ניסוחה המשפיע ביותר בביקורתו על תורת הפקודה. מה שמבדיל שיטת משפט ממצבו של השודד "בקנה מידה גדול" אינו היקף הציות אלא טיבו: קיומה של נקודת מבט פנימית, שממנה משתתפי השיטה מקבלים את הכללים כטעמים לפעולה, כאמות-מידה לביקורת וכבסיס לתביעות הדדיות - ולא רק צופים בהם מבחוץ כבסיס לניבוי סנקציות.⁷ הכלל המשפטי, במובן זה, אינו רק סדירות התנהגותית הניתנת לחיזוי; הוא פונה אל נמענו כאל מי שמסוגל לאמצו, להצדיק באמצעותו ולתבוע בשמו. שיטה המפיקה ציות מושלם בלא שנותרת בה נקודת מבט פנימית איננה שיטת משפט חלשה - היא חדלה מלהיות שיטת משפט. וכבר כאן ראוי לרשום הערה משלי, החורגת מהארט עצמו: אצל הארט הנקודה הפנימית היא קבלת הכלל כאמת-מידה, וקבלה זו יכולה לנבוע גם ממסורת או מאינטרס. אני מבקש להוסיף עליה, לצורך דיון הלגיטימציה, תנאי נוסף - שתהא לנמענים, עקרונית, גישה אל טעמי הכללים, שיש מה לאמץ ומה לבקר.

רז חידד את צידה השני של המשוואה: מתי מוצדקת הטענה לסמכות. על פי תפיסת השירות שלו, סמכות היא לגיטימית כאשר ציות להוראותיה משרת את הנמען עצמו - כאשר הישענות על הכרעת הסמכות מסייעת לנמען לקיים את הטעמים החלים עליו ממילא טוב יותר משהיה מקיימם אילו שקל אותם בעצמו.⁸ שני יסודות בתפיסה זו חשובים להמשך. ראשית, הלגיטימציה היא יחס בין הכרעה לבין טעמים; היא שאלה של הצדקה, לא של תפוקה. שנית, הסמכות מתווכת טעמים - היא אינה מחליפה את מרחב הטעמים בכוח אטום. אמת, רז עצמו תולה את הלגיטימציה בשירות הטעמים, לא בהצגתם, ובקריאה זו די לכאורה בתפוקה מיטיבה; אלא שמשעה שמצרפים לתזת השירות את דרישת הנימוק הפומבי שהונחה זה עתה - ובמשפט, כך אטען, אין השתיים ניתנות להפרדה - נדרשת הסמכות לא רק לשרת את טעמי נמעניה אלא גם להיות מסוגלת להראות כיצד הכרעותיה עומדות ביחס מובן אליהם. מכאן שגם סמכות המצטיינת בדיוק תוצאותיה עלולה להיכשל במבחן הלגיטימציה. דיוק סטטיסטי איננו תחליף ליחס הצדקתי; הוא ממד אחר לגמרי.

ההשלכה לענייננו כמעט מובנת מאליה, ובכל זאת ראוי לאומרה במפורש. מערכות חישוביות מצטיינות בדיוק במה שהסמכות האפקטיבית מודדת: עקביות, מהירות, כושר ניבוי, אכיפה חסרת לאות. אך דבר מכל אלה אינו נוגע, ולו בקצהו, בשאלת התוקף. מערכת המשיגה ציות מרבי תוך פירוק היחס ההצדקתי שבין ההכרעה לנמעניה איננה משפט משוכלל; היא בקרה חברתית יעילה. הסכנה שהמאמר מבקש למפות אינה, אפוא, שהמכונה תיכשל - אלא שהיא תצליח, ובעצם הצלחתה תעביר את המשפט, בלא הכרזה ובלא רגע מכונן שאפשר להצביע עליו, מן הטור האחד אל האחר.

המוסר הפנימי של החוק

אם ההבחנה בין יעילות לתוקף משרטטת את השאלה, הרי שפולר סיפק את הניסוח השיטתי ביותר לתנאים שצורת המשפט עצמה מציבה. במרכז משנתו עומדים שמונה עקרונות, שכינה יחדיו "המוסר הפנימי של החוק": כלליות - הכוונת ההתנהגות באמצעות כללים, ולא בהוראות אד-הוק לכל מקרה; פומביות - פרסום הכללים לנמעניהם; אי-רטרואקטיביות - אין מחייבים אדם בכלל שלא היה קיים בשעת מעשה; בהירות - כלל שאין להבינו אינו יכול להנחות; אי-סתירה בין כללים; אפשרות קיום - אין לדרוש את הנמנע; קביעות סבירה לאורך זמן; והלימה (congruence) בין הכלל המוצהר לבין פעולתה של הרשות בפועל.⁹

הנקודה המכרעת אצל פולר - והיא שעליה נשענת הטיפולוגיה של מאמר זה - אינה עצם הרשימה אלא מעמדה. שמונת העקרונות אינם אידיאלים רגולטיביים שמערכת משובחת שואפת אליהם ומערכת בינונית מתפשרת עליהם. הם תנאים קונסטיטוטיביים: כישלון שיטתי וכולל באחד מהם אינו מניב "משפט רע" אלא דבר-מה שאינו ראוי עוד לשם משפט. במשל המלך רקס מדגים פולר כיצד שליט שכשל בכל אחת משמונה הדרכים - שלא פרסם את כלליו, ששינה אותם בכל יום, שהכריע באופן שאינו הולם את המוצהר - לא יצר משפט גרוע; הוא לא יצר משפט כלל. הטעם נעוץ בהגדרת המפעל עצמו: המשפט, לשיטת פולר, הוא הניסיון להכפיף התנהגות אנושית למרותם של כללים, וניסיון זה מניח יחס של הדדיות. הרשות מתחייבת לשפוט את האזרח על פי הכללים שהכריזה, והאזרח יכול לכלכל את צעדיו על יסוד אותה התחייבות. משנשמט אחד העקרונות באורח שיטתי, נשמטת ההדדיות; ומשנשמטה ההדדיות, נשמט היסוד שמכוחו רשאית הרשות לתבוע ציות, להבדיל מלכפות אותו. דומה כי זהו הלקח העמוק של הוויכוח המפורסם בין פולר לפוזיטיביסטים: אפשר לחלוק על השאלה אם ראוי לקרוא לעקרונות הללו "מוסר", אך קשה לחלוק על כך שבלעדיהם אין לפנינו הכוונת התנהגות באמצעות כללים אלא דבר-מה אחר. ואל יאמר הטוען כי בכך הוברחה המסקנה אל תוך ההגדרה: הטענה אינה מילולית אלא מהותית. איני קובע ש"משפט" פירושו, מעצם הגדרתו, משפט אנושי דווקא; אני מצביע על כך שהתנאים הללו - נימוק שאפשר לחלוק עליו, כלל שאפשר לדעת מראש, אחריות שאפשר לייחס - הם המכוננים את הפרקטיקות שבזכותן מקים המשפט חובת ציות ולא רק צייתנות: הערעור, המחאה, התיקון מבפנים. מי שיסלק אותם רשאי כמובן להוסיף ולקרוא לתוצר "משפט"; אך הנטל יעבור אליו להראות כיצד נותרו על כנן אותן פרקטיקות עצמן, שבלעדיהן המילה מאבדת את תוכנה.

שאואר הוסיף לתמונה נדבך שראוי להדגישו כבר עתה, משום שהוא נוגע במישרין לפיתוי החישובי. ערכו של הכלל, טען, אינו מתמצה בהיותו מכשיר להשגת ההחלטה הנכונה בכל מקרה נתון; אדרבה, ערכו נובע דווקא מן השִׁריון (entrenchment): הכלל מקבע הכללה נורמטיבית ומחייב את המחליט לפעול לפיה גם כשהיא על-כוללת או תת-כוללת ביחס לתכליתה - אף במקרים שבהם סטייה ממנה הייתה מניבה תוצאה טובה יותר בנקודה הבודדת.¹⁰ דווקא "חוסר היעילות" הזה - הפער בין הכלל לבין ההכרעה האופטימלית הנקודתית - הוא הנושא את ערכי הצפיות, ריסון המחליט והשוויון בין הנמענים. מי שמבקש למחוק את הפער באמצעות התאמה מיטבית של הנורמה לכל מקרה ומקרה אינו משכלל את הכלל; הוא מוותר על צורת הכלל, ועל כל מה שהיא נושאת. נשוב לתובנה זו בדיון בדין הפרסונלי, אך היא נרשמת כבר כאן כעיקרון כללי: יש ערכים שמקורם בצורה, ואופטימיזציה של התוכן עלולה לחסלם בלא שתירשם אף תקלה אחת.

לגיטימציה כנימוק פומבי

עקרונותיו של פולר נוגעים בצורת הכללים. מסורת שנייה, שאינה מתחרה בראשונה אלא משלימה אותה, ממקמת את הלגיטימציה בהליך ההצדקה עצמו. הברמאס ניסח זאת באופן הנחרץ ביותר: בתנאים פוסט-מסורתיים, שבהם אין עוד סמכות דתית או מטפיזית משותפת שממנה שואב החוק את תוקפו, יכול תוקף זה לנבוע אך ורק מהליך שיח רציונלי שבו הנמענים עצמם, כחופשיים ושווים, יכולים לראות עצמם בה בעת גם כמחבריו של החוק.¹¹ החוק הלגיטימי אינו זה שתוצאותיו רצויות; הוא זה שהליך היווצרותו והצדקתו פתוח עקרונית לטעמים שהנמענים יכולים לבחון, לבקר ולקבל או לדחות. רולס, ממסורת שונה, הגיע למסקנה קרובה: הפעלתו של כוח פוליטי לגיטימית רק כאשר היא נסמכת על תבונה פומבית - על טעמים שכל אזרח סביר יכול, באופן עקרוני, לקבלם כטעמים, אף אם אינו מסכים למסקנה.¹² ההצדקה חייבת אפוא להיות לא רק קיימת אלא נגישה: מנוסחת במטבעות שהם רכוש משותף של הקהילייה הפוליטית, ולא בשפה פנימית שרק בעליה מבינים.

וולדרון קירב את התובנה הזאת אל רצפת בית המשפט. שלטון החוק, טען, אינו רק תכונה של כללים כתובים - הוא פרקטיקה טיעונית. בליבו של המשפט עומדים השימוע, הטענה והתשובה, זכותו של בעל הדין להשמיע את גרסתו וחובתו של המכריע להתמודד עם הטיעון ולנמק את דחייתו; והמובן העמוק של כל אלה הוא תפיסת הנמען כסוכן תבוני, שראוי כי ינמקו בפניו, ולא כאובייקט לניהול, לחיזוי ולתיעול.¹³ מערכת המדייקת בתוצאותיה אך חדלה לנמק - או מנמקת באופן שאיש אינו מסוגל לבחון - עשויה להישאר יעילה להפליא, אך היא ממירה יחס של הצדקה ביחס של ניהול. שלוש הגרסאות - ההברמאסיאנית, הרולסיאנית והוולדרוניאנית - נבדלות זו מזו בהנחותיהן הפילוסופיות, אך חוט אחד שוזר אותן: הלגיטימציה עוברת דרך נימוק פומבי. לא די שההכרעה נכונה; עליה להיות ניתנת-להצדקה בפני מי שהיא חלה עליו, במונחים שהוא מסוגל עקרונית להבין, לבקר ולערער עליהם.

ששת תנאי הלגיטימציה

מן הקאנון הזה אבקש לגזור עתה שישה תנאי-סף, שישמשו את המאמר כסרגל מדידה. אין זו רשימה שרירותית, ואף לא רשימת משאלות של אידיאליסט; אנמק תחילה את עקרון הבחירה, ולאחר מכן את מעמדם של התנאים כתנאי-סף דווקא. עקרון הבחירה הוא כיסוי מלוא מחזור חייה של הנורמה: תשומותיו של המשפט - מה שהמערכת יודעת ושעליו היא נשענת; הליכיו - כיצד מכריעים ומי מכריע; ותוצריו - מה שהנורמה עושה לנמעניה לאורך זמן, ומה שהשיטה עושה לעצמה.

התנאי הראשון הוא נימוק פומבי: הכרעה שלטונית חייבת להיות מלווה בהצדקה נגישה, הניתנת לבחינה ולערעור בידי נמעניה. הנימוק במובנו המלא כולל גם את זכות הטיעון שלפני ההכרעה - השימוע אינו תנאי נפרד אלא צדו האחר של אותו שיח הצדקה, טענה ותשובה, שוולדרון רואה בו את ליבו של המשפט. זהו התנאי שהמסורת ההצדקתית - הברמאס, רולס, וולדרון - מציבה במרכז, ואליו מצטרפת דרישת ההלימה של פולר: על הרשות להכריע על פי הטעמים שהצהירה עליהם, ולא על פי היגיון סמוי אחר. התנאי השני הוא אותנטיות אפיסטמית של הרשומה המשפטית. תנאי זה אינו מופיע בקאנון בשמו, ודווקא משום כך הוספתו טעונה הצדקה. טענתי היא שהקאנון לא נזקק לנסחו משום שהניחו במובלע: הפומביות הפולריאנית מניחה שמה שפורסם הוא אכן מה שנחקק; השיח ההברמאסיאני מניח שהטענות המוחלפות בו נסמכות על מקורות שניתן לאמתם; ותורת התקדים כולה - עצם הרעיון שהכרעת אתמול מחייבת את שופט המחר - מניחה גנאלוגיה אותנטית של סמכות: שהתקדים המצוטט אכן ניתן, שנוסחו הוא נוסחו, ושאפשר להתחקות אחר שלשלת המקורות עד למקור מוסמך. הנחה שקופה זו לא נדרשה מעולם להגנה, כל עוד ייצורו של טקסט משפטי היה יקר, איטי וניתן לייחוס. היא הופכת לתנאי הטעון ניסוח מפורש ברגע שבו היא חדלה להיות מובנת מאליה - וזה, כפי שיפורט, בדיוק הרגע שבו אנו עומדים.

התנאי השלישי הוא מצפון אנושי בהכרעה. ההכרעה השיפוטית איננה, על פי המסורת האריסטוטלית, יישום דדוקטיבי של כלל על עובדות. היא מעשה של תבונה מעשית (פרונסיס) - אותה מעלה אינטלקטואלית שעניינה שיקול נכון בעניינים פרטיקולריים, שאינה ניתנת לרדוקציה לידיעה תאורטית או למיומנות טכנית, והנקנית בניסיון חיים ולא בשינון.¹⁴ המשפט המודרני מיסד את היסוד הזה במוסדות מובחנים: בשיקול הדעת השיפוטי, בחבר המושבעים כמצפונה של הקהילה, ואף באותו שסתום קיצוני של ביטול מטעם המצפון (jury nullification) - סמכותם שבפועל של מושבעים לזכות חרף הדין, מקום שבו יישומו נראה בעיניהם בלתי-נסבל מוסרית. אפשר להסתייג משסתום זה ומן השימושים שנעשו בו; אך עצם קיומו מלמד על הנחת יסוד של השיטה, ולפיה בקצה שרשרת ההכרעה ניצב מצפון המסוגל לומר "לא". התנאי הרביעי הוא כלליות ושוויון בפני החוק - עקרונו הראשון של פולר, בתוספת ממדו השוויוני: הנורמה פונה אל סוגים של מקרים ושל בני אדם ולא אל יחידים מסומנים, ושניים שעניינם דומה יידונו באמת-מידה אחת. כפי שהראה שאואר, הכלליות איננה רק הגינות; היא צורת הריסון של המחליט עצמו. התנאי החמישי מאגד שלושה מעקרונות פולר - פומביות, בהירות וקביעות: הנורמה חייבת להיות ידועה מראש, מובנת למי שהיא חלה עליו, ויציבה די הצורך כדי שאפשר יהיה לתכנן חיים לאורה. זהו תנאי-התוצר במובנו הפשוט ביותר - מה שהמשפט מוסר לנמעניו חייב להיות דבר-מה שסוכן מתכנן יכול לחיות עימו. והתנאי השישי הוא כושר-תיקון מוסרי: יכולתה של השיטה לזהות את עוולותיה שלה ולתקנן. תנאי זה נגזר מקודמיו: ההדדיות הפולריאנית והשיח ההברמאסיאני מניחים שניהם מערכת הפתוחה לביקורת ומסוגלת להשתנות בעקבותיה. ההיסטוריה של הקדמה המוסרית במשפט - ביטול העבדות, שוויון האישה, הרחבת מעגלי הזכאות - היא היסטוריה של שיטה שכללי אתמולה הוכרזו כעוול בידי המחוקקים ובתי המשפט של מחר. משפט שאיבד את כושר-התיקון אינו משפט יציב במיוחד; הוא מפעל שאיבד את התכונה שהצדיקה את סמכותו לאורך זמן.

ומדוע תנאי-סף ולא רשימת משאלות? התשובה נגזרת מהכללת המהלך הפולריאני על ששת התנאים כולם: כל אחד מהם הוא תנאי שהפרתו השיטתית אינה מורידה את איכות המשפט אלא ממירה את סוגו. משפט בלא נימוק פומבי הוא פקודה; בלא רשומה אותנטית - פיקציה המצטטת את עצמה; בלא מצפון בהכרעה - חישוב; בלא כלליות - ניהול פרטני; בלא פומביות, בהירות וקביעות - הפתעה מתמדת; בלא כושר-תיקון - קיבעון שלטוני. בכל אחד מן המקרים עשויה המערכת להוסיף ולתפקד, ואף לתפקד טוב מתמיד במונחי תפוקה; אלא שהיא תתפקד כבקרה חברתית יעילה, לא כמקור סמכות לגיטימי. ששת התנאים הם, אם כן, תוכנה המושגי של אותה רצפת לגיטימציה שהמאמר יבקש לגזור בסופו. ומכאן תוכנית ההמשך: בפרקים הבאים יוחל כל תנאי על חזית טכנולוגית אחת - הנימוק הפומבי מול הקופסה השחורה, האותנטיות האפיסטמית מול זיהום התקדים, המצפון מול המושבע האלגוריתמי, הכלליות מול הדין הפרסונלי, הפומביות-בהירות-קביעות מול המשפט הנוזלי, וכושר-התיקון מול הנעילה הנורמטיבית - ובהצטרף שש הבדיקות זו לזו תעלה התמונה שהמאמר טוען לה: לא צרור תקלות הניתנות לתיקון נקודתי, אלא שינוי-משטר במקורות הלגיטימציה.

פרק ב.1: הקופסה השחורה מול הנימוק הפומבי

מבין תנאי הלגיטימציה שמאמר זה מבקש למפות, חובת ההנמקה היא הוותיק והמבוסס שבהם. פולר מנה בין עקרונות המוסר הפנימי של החוק את דרישת ההלימה (congruence) בין הכלל המוכרז לבין פעולת הרשות בפועל - דרישה שאין לה מובן מעשי בלא היכולת לשחזר את דרך הילוכה של הרשות מן הכלל אל התוצאה.¹⁵ הברמאס העמיד את הלגיטימציה של המשפט המודרני על כושרן של נורמות להצדקה בשיח פומבי, שבו כל טענת-תוקף חשופה לביקורת ולתשובה.¹⁶ ורולס עיגן את הפעלת כוחה הכופה של המדינה בתבונה ציבורית - בנימוקים שכל אזרח סביר יכול, לפחות בעיקרון, לקבלם.¹⁷ שלוש המסורות נבדלות זו מזו במובנים חשובים, אך משותפת להן הנחת-יסוד אחת: הכרעה שלטונית קונה את סמכותה לא מן התוצאה אלא מן הדרך אל התוצאה - מנימוק פומבי הנגיש לביקורת. חובת ההנמקה השיפוטית, המעוגנת כמעט בכל שיטת משפט מודרנית, היא הביטוי המוסדי המובהק של הנחה זו: השופט אינו רשאי להסתפק בהכרזת התוצאה, משום שהתוצאה לבדה אינה משפט. כך גם בישראל: תקנות סדר הדין האזרחי מורות כי החלטה שיפוטית תכלול, לצד ממצאי העובדה והשאלות הטעונות הכרעה, את "ההכרעה ונימוקיה".¹⁸ זהו התנאי שהחזית הראשונה פורצת.

כדי להבין את אופי הפריצה יש להתעכב על המנגנון. מערכת של למידה עמוקה אינה מיישמת כללים על עובדות; היא מחלצת קורלציות סטטיסטיות ממאגרי אימון עצומים, ומקודדת אותן במיליוני - וכיום במאות מיליארדי - פרמטרים משוקללים. ה"הכרעה" שהיא מנפיקה אינה מסקנתו של טיעון אלא תוצר של טרנספורמציה מתמטית במרחב רב-ממדי, שאיש - לרבות מפתחי המערכת - אינו יכול לפרקה לשרשרת סיבתית או נורמטיבית של טעמים. זהו מה שאכנה כאן היגיון חייזרי (alien logic): לא היגיון אנושי המוסתר מן העין, שניתן לחשפו במאמץ מספיק, אלא צורת הסקה שונה במהותה, שאינה עשויה מן החומרים שמהם עשוי נימוק - הנחות, כללים, שיקולים והכרעות ביניהם. אמנם קם בשנים האחרונות תחום מחקרי שלם של "בינה מלאכותית מוסברת" (Explainable AI), המבקש לגשר על הפער - מקירובים מקומיים ומפות-בולטות ועד "גרפי ייחוס" עדכניים, המאפשרים להתחקות, ולו חלקית, אחר שלבי החישוב הפנימיים של מודל מסחרי;¹⁹ ובמקביל מפיק דור "מודלי ההסקה" החדש, לצד תשובתו, שרשרת נימוק מילולית גלויה. אלא שיש להבחין הבחן היטב בין שני מובנים של "הסבר": תוצריו של תחום זה הם תיאורים סיבתיים-סטטיסטיים של התנהגות המודל - אילו מאפיינים בקלט הטו את הפלט לכיוון זה או אחר - ואילו הנמקה משפטית היא הצדקה נורמטיבית, טענה מדוע ראוי שהתוצאה תהיה כפי שהיא. מפת-בולטות המגלה שהמודל "התרשם" ממילה מסוימת אינה קרובה לנימוק יותר משרישום פעילות מוחית של שופט קרוב לפסק-דין. ואשר לשרשרת הנימוק הגלויה - מחקרי הנאמנות מלמדים שאין היא משקפת בהכרח את החישוב שהוליד את התשובה: המודל עשוי לנמק בקול רם דבר אחד ולחשב דבר אחר, כך שגם ההסבר הרהוט ביותר עודנו נושא עמו את השאלה שההנמקה נועדה לענות עליה - מי ערב לכך שאלה אכן הטעמים.²⁰ ומכל מקום, לפי שעה נוטה קצב התעצמותם של המודלים לעלות על קצב התקדמותם של כלי ההסבר; ואולם גם אם ייסגר פער זה בעתיד - וזו שאלה אמפירית פתוחה - עומדת בעינה ההבחנה העקרונית שהצגתי זה עתה: הסבר סיבתי של פעולת המודל אינו הצדקה נורמטיבית. מכאן שהקופסה השחורה אינה תקלה הנדסית זמנית הממתינה לפתרונה; היא מאפיין מבני של הטכנולוגיה, ומתקבל על הדעת שהיא תלווה אותה גם בדורותיה הבאים.

את המסקנה ההפוכה מן ההבחנה הזו מציע יוג'ין וולוך: אם תדע תוכנה לכתוב חוות דעת משכנעות - כאלה שלא ייפלו, בשיפוט עיוור וחוזר, מאלה של שופטים בשר ודם - די בכך לשיטתו כדי לקבלה כשופטת; השכנוע הוא המבחן, לא מקורו של הטקסט.²¹ אלא שההצעה מודדת בדיוק את הדבר הלא-נכון, ובכך היא מחדדת את ההבחנה שביסוד הפרק: שכנוע הוא תכונה של פלט; הצדקה היא מעמד של מעשה. חוות דעת משכנעת שאין מאחוריה מי שמחויב לטעמיה - מי שערב להם מפני השגות ונושא בתוצאותיהם - היא רטוריקה משובחת, אך אינה נימוק פומבי במובן שתנאי הלגיטימציה תובע. מבחנו של וולוך היה מכריע אילו היה המשפט תחרות כתיבה; המשפט, כך ביקש פרק זה להראות, הוא נטילת אחריות.

ההמחשה הדוקטרינרית המובהקת מצויה בפרשת לומיס (Loomis). אריק לומיס נדון בוויסקונסין לעונש שנשען, בין היתר, על ציון סיכון שהפיק אלגוריתם COMPAS - מערכת מסחרית שאופן פעולתה חסוי כסוד מסחרי. לומיס טען כי נשללה ממנו זכותו להליך הוגן, שכן לא יכול היה לבחון את דרך חישוב הציון או להשיג עליה; בית המשפט העליון של ויסקונסין דחה את הטענה, בקובעו כי השימוש בציון עולה בקנה אחד עם ההליך ההוגן כל עוד אין הוא הגורם המכריע בגזר הדין, וכי די בצירוף "אזהרות" בכתב בדבר מגבלותיו.²² התוצאה ראויה לעיון: אדם נשלח למאסר על יסוד שיקול שאיש באולם - לא השופט, לא הסניגור, ואף לא נציג החברה המפתחת במובן המלא - לא יכול היה לשחזר את היגיונו. הדין הכיר בכך שהנימוק אינו נגיש, וקבע שדי בידיעה על אי-הנגישות כדי להכשירו. אף הפתרון שנבחר - אזהרה המצורפת לציון - מניח את המבוקש: הוא מטיל על השופט לשקלל בזהירות שיקול שאת תוכנו אין ביכולתו להבין, ובכך משעתק את הבעיה במקום לפתרה. ועם זאת יש לחדד הבחנה: אטימותו של COMPAS היא בעיקרה אטימות של סוד מסחרי - מפתחיו יכולים לפרקו, ובעיקרון ניתן היה לחייב את חשיפתו, ובכל זאת הדין בחר שלא. זו אטימות בת-ריפוי שלא רוּפאה. ואילו ה"היגיון החייזרי" של מודלי הלמידה העמוקה, שעליו עמדתי לעיל, אינו בר-ריפוי כלל - אין מאחוריו נימוק סמוי הממתין לחשיפה. פרשת לומיס ממחישה אפוא את גרסתה ה"קלה" של הבעיה, וממנה קצרה הדרך אל גרסתה החמורה, שבה גם רצון טוב לגלות לא יסייע.

זמן קצר קודם לכן חשף תחקיר "המכונה המוטה" (Machine Bias) של ProPublica ממד נוסף של הבעיה: ניתוח של אלפי תיקים בפלורידה העלה כי אותו אלגוריתם שגה לחומרה כלפי נאשמים שחורים בשיעור כמעט כפול מזה שבו שגה כלפי לבנים.²³ החברה המפתחת השיבה שהכלי מכויל באופן שווה לפי מדד הוגנות אחר, והוויכוח הסטטיסטי לא הוכרע עד היום. אך לענייננו חשוב דווקא מבנהו של הוויכוח: בהיעדר גישה למערכת עצמה, הביקורת הציבורית נאלצה להתנהל על תוצריה החיצוניים בלבד, כדו-קרב בין הגדרות מתמטיות מתחרות של הוגנות - לא כבחינה של טעמים. גוף עיתונאי משופע במשאבים, שגייס מומחי נתונים לחודשים ארוכים, הצליח לכל היותר למשש את הקופסה מבחוץ; מה יעלה בגורלו של נאשם יחיד, חסר אמצעים, המבקש להבין מדוע סוּוג כמסוכן? פסקוואל הראה כי אין זה מקרה: בחברת הקופסה השחורה החשאיות אינה תוצר לוואי אלא מקור כוח, ומערכות הניקוד ממגנות את מעמדן דווקא באמצעות אי-חדירותן לביקורת.²⁴

יתרה מזו, הפגיעה בנימוק הפומבי אינה מותנית בכך שהמכונה היא שתכריע באופן רשמי. גם כאשר האדם חותם, ספרות קבלת ההחלטות מלמדת על הטיית אוטומציה (automation bias) - נטייה שיטתית לאמץ את המלצת המערכת גם כשהיא שגויה - ועל פריקה קוגניטיבית (cognitive offloading), שבה עצם זמינותה של טיוטה מוכנה מדלדלת את העיבוד העצמאי של הבוחן.²⁵ ואין זה תרחיש עתידי: במאי 2026 החלה הרשות השופטת בישראל בהפעלה ארצית של "צ'אט המשפט" - עוזר בינה מלאכותית פנימי הפועל בסביבה סגורה על חומרי התיק בלבד, המסכם כתבי טענות ועדויות ומאתר מידע עבור כ-1,650 שופטים ועוזרים משפטיים;²⁶ ובצדו קוד אתי המחייב אימות אנושי של כל ציטוט ואסמכתה, ומטעים כי האחריות המלאה להליך נותרת בידי השופט.²⁷ שופט המקבל טיוטת פסק-דין מנוסחת, רהוטה וסבירה על פניה נדרש למשמעת יוצאת דופן כדי לשחזר את המסע השיפוטי מראשיתו ולא להסתפק בהגהה. מתקבל על הדעת שבתנאי עומס - והעומס הוא הטעם המרכזי המוצהר להכנסת הכלים - הבחינה תלך ותיעשה שטחית, והשפיטה תהפוך בהדרגה לעריכה טכנית: נימוק כתוב יוסיף להתפרסם, אך הוא יהיה נימוקו של אחר, והחתימה האנושית תשמש תעודת הכשר לתהליך הנמקה שלא התרחש. כאן טמונה ערמומיותה של הפריצה: כלפי חוץ לא ישתנה דבר - פסקי הדין ייראו מנומקים אף יותר משהיו - בעוד שהקשר הפנימי בין הנימוק המוצהר לבין ההכרעה בפועל, אותה הלימה שפולר ראה בה תנאי-סף, נשחק בשקט.

כאן נדרש הצעד הטיעוני המרכזי של הפרק: מדוע כל אלה הם פריצה של תנאי-לגיטימציה ולא ליקוי טכני הניתן לשיפור? התשובה נעוצה בכך שההנמקה אינה קישוט הנלווה להכרעה אלא מה שהופך הכרעה לשפיטה. שלושה תפקידים מכוננים ממלא הנימוק הפומבי, ואף לא אחד מהם ניתן למילוי בידי תוצאה ערומה. ראשית, הוא שמכונן את אפשרות הערעור: ערכאת הביקורת בוחנת טעמים, לא מצבי תודעה, ובלעדי טעמים כתובים אין לה על מה להפעיל את ביקורתה. שנית, הוא שמאפשר את הביקורת הציבורית והאקדמית שדרכה המשפט לומד ומתקן את עצמו לאורך זמן - פסק בלתי מנומק הוא נקודת קצה, לא חוליה בשיח. ושלישית, הוא שמבטא את היחס אל בעל-הדין כסוכן תבוני, הזכאי לדעת מדוע הופעל נגדו כוח ולא רק שהופעל; מי שמקבל תוצאה בלא טעם מטופל כאובייקט לניהול, לא כאדם שמדברים אליו. וולדרון עמד על כך ששלטון החוק אינו רק משטר של כללים אלא פרקטיקה טיעונית, שבה עומדת לנפגע הזכות להתדיין על משמעות הנורמה החלה עליו.²⁸ וברוחו של הברמאס ניתן לומר: הכרעה שאינה ניתנת לפדיון בשיח - שאי-אפשר לדרוש ממנה טעמים ולהשיב עליהם - חדלה מלהיות טענה נורמטיבית והופכת לעובדה כוחנית. מכאן מסקנה שאין לרככה: מכונה המנפיקה תוצאות בלי נימוק בר-ביקורת אינה "שופטת גרועה" הזקוקה לשיפור; היא אינה שופטת כלל, כשם שמטבע המוטל באוויר אינו שופט גרוע. מה שהיא מספקת הוא בקרה חברתית יעילה - ניתוב התנהגות באמצעות תוצאות עקביות וצפויות - וזוהי בדיוק ההמרה שמפניה מתריע מאמר זה: התפוקה נמסרת במלואה, ואולי אף ביתר עקביות ובעלות נמוכה מן התפוקה האנושית, בעוד התנאי שהפך אותה למשפט מפורק. הפיתוי גדול במיוחד משום שהפירוק אינו מורגש בטווח הקצר; מערכת המשפט תמשיך "לעבוד", במובן שבו שעון מקולקל ממשיך להראות שעה.

על טיעון זה ניתן להשיב תשובה ריאליסטית מוכרת: כלום נימוקיו של שופט בשר ודם אינם, לעיתים קרובות, רציונליזציה בדיעבד? המסורת הריאליסטית במשפט טוענת זה מכבר שההכרעה קודמת לנימוק, ושחוות הדעת הכתובה היא שחזור מסודר של אינטואיציה שקדמה לה. אם כך, במה נופלת האטימות האלגוריתמית מן האטימות הפסיכולוגית? הרי לכאורה החלפנו קופסה שחורה ביולוגית בקופסה שחורה סיליקונית, ותו לא. התשובה נעוצה, דומה, בהבחנה שבין פסיכולוגיה למוסד. הנימוק השיפוטי הפומבי, גם אם אינו משקף נאמנה את התהליך המנטלי שהולידו, הוא ארטיפקט ציבורי בעל קיום עצמאי: הוא מחייב את כותבו, הוא חשוף לתקיפה בערעור, הוא ניתן לאבחון ולהפרכה, והוא כופה על השופט משמעת מחשבתית בעצם הצורך לנסחו כך שיעמוד בביקורת. בעל-דין המבקש לערער על פסק מנומק יודע היכן לתקוף: בקביעת עובדה זו, בפרשנות זו, במשקל שניתן לשיקול זה. הרציונליזציה האנושית היא אפוא בת-תקיפה גם אם אינה בת-אימות; ואילו ההיגיון החייזרי של הקופסה השחורה אינו מציע דבר לתקוף - אין בו טענה, אין הנחה, אין כלל שאפשר להצביע עליו ולומר: כאן נפלה הטעות. כל ההבדל שבין סמכות לגיטימית לשליטה מונח בפער הזה, שבין בדיה בת-ביקורת לבין עובדה חסינת-ביקורת.

זוהי, אם כן, החזית הראשונה של שינוי-המשטר במקורות הלגיטימציה: הגירת מקור-הסמכות מן הנימוק הפומבי אל החישוב הסמוי - משפט המוסיף להנפיק הכרעות ביעילות גוברת, אך חדל להסביר את עצמו למי שבשמו הוא מדבר.

פרק ב.2: זיהום התקדים - קריסת האותנטיות האפיסטמית של הרשומה

תורת התקדים נדונה על-פי-רוב במונחים של יציבות, צפיוּת ושוויון בהחלה: מקרים דומים יוכרעו באופן דומה, משום שההכרעה הקודמת מחייבת. אולם מתחת לרובד הדוקטרינרי מונחת הנחה עמוקה יותר, שכמעט אינה זוכה לניסוח מפורש דווקא משום שהיא נתפסת כמובנת מאליה: הנחת הגנאלוגיה האותנטית. כל הלכה נשענת על שרשרת מתועדת של הכרעות אנושיות אמיתיות - סכסוך שהתרחש, בעלי דין שטענו, שופט ששמע, הכריע ונטל אחריות על הכרעתו. לצטט תקדים פירושו להעלות טענה עובדתית על העבר: כך נפסק, שם, אז, בידי מי שהוסמך לפסוק. סמכותה של הרשומה המשפטית נובעת מהיותה תיעוד נאמן של מעשי שיפוט שאירעו בפועל; אפילו כלל הזיהוי של הארט - אמות-המידה שבאמצעותן מזהה קהילה משפטית מהו דין תקף - מניח בשתיקה שהחומרים המזוהים אכן קיימים, ושמאחורי האסמכתה עומד מעשה.²⁹ במובן זה, המשפט המקובל אינו רק שיטת הכרעה; הוא מוסד אפיסטמי. הוא יודע את מה שהוא יודע דרך הרשומה שלו, וכל חוליה בשרשרת אמורה להיות מסוגלת להשיב על השאלה: מי אמר זאת, מתי ומדוע. גם הפרקטיקות היומיומיות של העבודה המשפטית מניחות זאת: האבחון, הצמצום וההיפוך - הכלים שבאמצעותם מתפתחת ההלכה - כולם פונים אל הכרעה שאירעה, אל שיקול דעת שהופעל, אל נסיבות שהיו. הרשומה היא הזיכרון המוסדי של המשפט, והזיכרון הזה נחשב עד כה לאמין לא משום שנבדק בכל שימוש, אלא משום שדרך ייצורו - איטית, פומבית, חתומה - ערבה לו.

אבקש להראות כי הנחה זו - שאיש לא טרח לבצרה משום שאיש לא העלה בדעתו שתותקף - נפרצת בימים אלה בתהליך בן ארבעה שלבים, שכל אחד מהם מתועד כבר אמפירית. השלב הראשון נראה, במבט ראשון, כתקלה הנדסית גרידא. מודלי שפה גדולים מייצרים הזיות (hallucinations): אסמכתאות בדויות הנושאות את מלוא סממני האמת - שמות צדדים סבירים, מספרי כרך ועמוד, שנת פרסום, ולעיתים אף ציטוטים מילוליים מפסקי דין שמעולם לא נכתבו. דאהל ועמיתיו, במדידה השיטתית הראשונה של התופעה בתחום המשפטי, מצאו כי בשאילתות משפטיות ספציפיות מפיקים המודלים הנבחנים קביעות בדויות בלמעלה ממחצית מן המקרים, ובחלק מן המודלים והמשימות בשיעורים גבוהים בהרבה; מטריד לא פחות, שיעורי ההזיה נמצאו גבוהים במיוחד דווקא ביחס לערכאות הנמוכות - כלומר במקום שבו מתרחש רוב המשפט בפועל.³⁰

מחקר המשך של אותה קבוצת חוקרים בחן דווקא את כלי המחקר המשפטי המסחריים המעגנים את תשובותיהם באחזור ממאגר מאומת (retrieval-augmented) - אלה שאמורים היו לרפא את התופעה - ומצא כי גם הם מפיקים בדיות בשיעור של כשישית עד כשליש מן המקרים.³¹ העיגון-באחזור ממתן אפוא את שיעור ההזיה, אך אינו מכחיד את התופעה - ומטעם שיתברר להלן, אף אינו נוגע בגרעין הבעיה.

חשוב להטעים: ההזיה אינה מכריזה על עצמה. המודל מנסח את הבדוי ואת האמיתי באותו שטף ובאותה נימת ודאות, ואין בפלט עצמו כל סימן היכר המבחין ביניהם. כשלעצמו, ממצא זה עודנו ניתן לתיאור כבעיית אמינות של כלי עזר; אך הוא רק החוליה הראשונה בשרשרת.

החוליה השנייה היא רגע החצייה מן הכלי אל האולם. בפרשת Mata v. Avianca הגישו עורכי דין לבית משפט פדרלי כתב טענות הנסמך על שורה של פסקי דין שההתדיינות בהם מעולם לא התקיימה - פרי הזיותיו של מודל שפה - ומשנדרשו לאמת את האסמכתאות, פנו אל אותו מודל עצמו וקיבלו ממנו אישור בדוי לקיומן.³² חשיבותה של הפרשה אינה בסנקציה שהוטלה, ואף לא ברשלנות הפרטנית של עורכי הדין; חשיבותה בהדגמה שסיפקה. טקסט משפטי סינתטי, שאין מאחוריו כל מעשה שיפוט, חצה את סף בית המשפט כשהוא לבוש בצורתה השלמה של אסמכתה אמיתית, ואיש מן המעורבים לא זיהה אותו ככזה עד שנערכה בדיקה יזומה מול הרשומה עצמה. יכולת ההבחנה שוב אינה נתונה לעין המקצועית; היא תלויה באימות אקטיבי.

החוליה השלישית - החלחול אל הרשומה - היא שמעניקה לתופעה את אופייה היוריספרודנטי, ולה אני מציע את השם זיהום התקדים (precedent pollution). כתב טענות המצטט אסמכתה בדויה הוא מסמך המונח בתיק; אך פסק דין החוזר על אסמכתה כזו בלא בדיקה - ומקרים כאלה כבר דווחו במערכות משפט שונות - מעניק לבדיה גושפנקה של דין פוזיטיבי: היא מופיעה בהחלטה שיפוטית מפורסמת, נקלטת במאגרים, זמינה לציטוט הלאה, ומעתה מתרבה דרך מנגנוני ההפצה הרגילים של המשפט עצמו.³³ לרשומה המשפטית אין מערכת חיסון ייעודית: המאגרים מתעדים את שפורסם, ומנגנוני האזכור עוקבים אחר ציטוטים - לא אחר מוצא. והזיהום אינו מוגבל לאסמכתאות מלאות: תקצירים סינתטיים, ניסוחי הלכה מחוללים וסיכומי דוקטרינה המסתובבים בכתבי טענות ובספרות המשנית מעצבים אף הם את מה שהקהילה המשפטית סבורה שהדין אומר, והגבול בין הרשומה עצמה לבין ייצוגיה הולך ומיטשטש. ההנחה שעצם הכניסה לרשומה ערובה לאותנטיות הייתה נכונה כל עוד ייצור טקסט משפטי היה יקר, איטי וחתום בידי בני אדם הנושאים באחריות למוצא פיהם; דומה כי היא חדלה להיות נכונה.

ואין מדובר עוד בחשש ערטילאי. בישראל נדרש בית המשפט העליון בראשית 2025 לעתירה שנשענה על שורה ארוכה של אסמכתאות פגומות - בהן פסקי דין שאינם קיימים וציטוטים "שלא היו ולא נבראו" - שמקורן, כלשון בית המשפט, בסבירות גבוהה בכלי בינה מלאכותית; ובית המשפט הזהיר כי כתב טענות כזה עלול להוביל לסילוק על הסף ולהוצאות אישיות.³⁴ בתוך חודשים הפכה האזהרה למעשה: בקשה לאישור תובענה ייצוגית סולקה על הסף משנמצאו בה "ציטוטים מומצאים מפסיקה שאינה קיימת",³⁵ ועורכת דין חויבה בהוצאות אישיות בשל סיכומים שנשענו על פסקי דין בדויים.³⁶ ובארצות הברית כבר נחצה הקו שחזית זו מתריעה מפניו: צו של ערכאה דיונית בג'ורג'יה, שנסמך על שני פסקי דין שאינם קיימים, בוטל בערעור; וחוות דעת פדרלית נמשכה לאחר שנמצאו בה ציטוטים בדויים - שהוכנו, כפי שהתברר, בסיוע מודל שפה בלשכת השופט עצמו.³⁷

החוליה הרביעית סוגרת את המעגל והופכת את הזיהום ממצטבר למתרבה-מעצמו. מודלי הדור הבא מתאמנים על קורפוסים הנקצרים מן הרשת ומן המאגרים - כלומר על קורפוס שכבר מכיל את תוצריהם הסינתטיים של מודלי הדור הקודם, לרבות הבדיות שחלחלו. שומאילוב ועמיתיו הראו כי אימון רקורסיבי על נתונים מחוללים מוביל לקריסת מודל (model collapse): תופעה מתמטית מתועדת שבה זנבות ההתפלגות - הנדיר, החריג, יוצא הדופן - נעלמים תחילה, והמודלים מתכנסים בהדרגה אל מרכז מדולדל, ההולך ומתרחק מן ההתפלגות המקורית.³⁸ מן ההגינות לסייג: הצורה החריפה של קריסת המודל מניחה שהנתונים המחוללים מחליפים את האמיתיים, ומחקר המשך הראה כי כאשר הנתונים האמיתיים נשמרים בקורפוס לצד התוצרים הסינתטיים המצטברים - כמצב הקורפוס המשפטי, שבו פסקי הדין האותנטיים נשמרים במאגרים ואינם נמחקים - עוצמת התופעה מתמתנת.³⁹ ואף על פי כן הסיכון אינו מתבטל, כי אם משנה צורה. גרסטגרסר ועמיתיו מראים כי כאשר הנתונים האמיתיים אינם נמחקים אלא התוצרים הסינתטיים מצטברים לצדם, נשברת הרקורסיה המתפרצת: ההידרדרות אינה נמשכת עוד ללא גבול, והשגיאה נבלמת ומתייצבת על רמה חסומה. תרחיש הקריסה הגמורה נדחה אפוא; אך הבלימה איננה ריפוי. הרשומה המתייצבת היא רשומה שחלקה הסינתטי הולך וגדל, והדינמיקה ששומאילוב ועמיתיו תיארו - שחיקתם המוקדמת של זנבות ההתפלגות, של הנדיר והחריג - נבלמת בה, אך אינה מתהפכת. אין זה מדרון היורד עד אין-קץ אלא התייצבות שבה החריג הולך ונדחק ככל שחלקה הסינתטי של הרשומה גדל; וזו בדיוק חומרתה - לא היעלמותה של הרשומה, אלא התכנסותה השקטה אל השגור. בהקשר המשפטי משמעות הדבר חמורה במיוחד: דווקא המקרים הקשים, ההבחנות הדקות וההלכות הנדירות - חומר הגלם של ההתפתחות המשפטית - נמצאים בסיכון גובר להידחק, בעוד הנוסחאות השגורות, אמיתיות ובדויות כאחת, משתכפלות. הזיהום אינו כתם נקודתי ברשומה; הוא שינוי בדינמיקה של ייצורה.

לזיהום התקדים יש תאום בצד הראייתי. אם התקדים הוא זיכרונו הנורמטיבי של המשפט, הראיות הן חושיו - והזיוף העמוק (deepfake) מרעיל אותם באותו מבנה עצמו. צ'סני וסיטרון עמדו על כך שלצד הזיוף המצליח אורב נזק שונה בסוגו - דיבידנד השקרן (liar's dividend): עצם קיומה של טכנולוגיית זיוף משכנעת מאפשר להכחיש ראיות אמיתיות, שכן "גם זה מזויף" נעשה טענה שלא ניתן לפסול על פניה.⁴⁰ הפגיעה האפיסטמית סימטרית אפוא: השקר יכול להתחזות לאמת, והאמת ניתנת לביטול כשקר. התרופות המסתמנות - תקני מקור קריפטוגרפיים, חותמות אותנטיות לאורך שרשרת הראיות, שערי קבילות מדעיים - הן חלקיות במהותן: הן מאמתות את שנוצר בתוך תשתית האימות ומכאן ואילך, לא את הארכיון שנצבר לפניה. וחשוב מזה, הן ממירות את בירור האמת השיפוטי בתלות בתשתיות אימות טכניות: בית המשפט שוב אינו רואה בעיניו, אלא דרך מנגנון אישורים שהאמון בו הוא עצמו שאלה פתוחה. ההליך האדוורסרי, מצדו, הופך כל פריט ראייתי לזירת מחלוקת פוטנציאלית על עצם אותנטיותו - עם כל המשתמע מכך לעלויות ההתדיינות, למשכה, וליכולתם של בעלי דין דלי-אמצעים לעמוד בה.

מדוע כל אלה עולים כדי פריצה של תנאי-לגיטימציה, ולא כדי צרור תקלות איכות הניתנות לפתרון הנדסי? התשובה נעוצה בכך שהנפרץ כאן הוא האותנטיות האפיסטמית של הרשומה - התנאי שמכוחו הרשומה היא מקור ידיעה ולא רק מאגר טקסטים. השאלה "מי אמר זאת ומדוע" אינה דקדקנות ביבליוגרפית; היא מנגנון העיגון של כל טענה משפטית במסירוּת אנושית (answerability). תקדים מחייב משום שאדם, מכוח כהונתו ובמסגרת סכסוך אמיתי, נטל אחריות על הכרעה שניתן לשוב אליה, להבחינהּ ואף להופכה; ניתן לחקור את טעמיה, לבקר את הנחותיה ולתבוע ממנה דין וחשבון. לטענה סינתטית, לעומת זאת, אין מחבר שניתן להשיב אליו ואין טעמים שניתן לחקור, שכן מאחוריה לא עמד מעולם מעשה שיפוט. במובן עמוק, היא אף אינה יכולה להיות מוטעית באופן הרלוונטי: תקדים שגוי הוא הכרעה אנושית שניתן לבקרה ולתקנה, ואילו הבדיה הסינתטית אינה הכרעה כלל - היא צורה בלא מעשה, אסמכתה בלא סמך. ויודגש: אין מדובר בשאלת הנמקתה של ההכרעה הבודדת, שנדונה בפרק הקודם, אלא בשאלה המוקדמת לה - שאפילו הייתה כל הכרעה מנומקת למופת, הנמקתה נשענת על חומרים, ואם החומרים מזויפים, ההנמקה היא בניין המוקם על חול. כשהרשומה נעשית סינתטית, הסמכות מאבדת את עוגנה: היא ממשיכה לצטט, אך שוב אינה יכולה לערוב לכך שיש מי שעומד מאחורי המצוטט.

על טיעון זה ניתן להשיב תשובת-זוטא מתבקשת: הרי טעויות שכנו ברשומה מאז ומעולם - ציטוטים משובשים, דיווחים בלתי מדויקים בקובצי הפסיקה הישנים, תקדימים שהתבררו כמוטעים - והמערכת שרדה, ואף פיתחה מנגנוני תיקון. דומה כי התשובה נעוצה בשלושה הבדלים מצטברים. הראשון הוא קנה-המידה: הטעות האנושית היא תוצר מלאכת-יד, אחת לכמה כרכים, ואילו הייצור הסינתטי הוא תעשייתי, ושיעורי ההזיה שתועדו אינם עניין של פליטות קולמוס. השני הוא המהירות: מנגנוני התיקון של המשפט - ערעור, ביקורת מלומדים, אבחון בהתדיינות מאוחרת - פועלים בקצב של שנים, ואילו ההפצה הסינתטית פועלת בקצב מכונה, כך שהזיהום מקדים תמיד את גילויו; ולכך מצטרף סגנון הכשל - הטעות האנושית מותירה עקבות, אי-התאמות וסגנון חריג, ואילו הטקסט הסינתטי בנוי בדיוק כך שייראה נכון: שוטף, מעוצב ומצוטט ככל אסמכתה כשרה. אך ההבדל השלישי - הרקורסיה - הוא הסמוי מכול. טעות ציטוט בקובץ פסיקה מן המאה התשע-עשרה נותרה במקומה; היא לא הפכה לחומר אימון המעצב את מחולל הטקסטים של מיליון המסמכים הבאים. הטעות האנושית היא חיבורית, וניתנת לתיקון באמצעות השוואה אל אותה רשומה עצמה; הזיהום הסינתטי הוא כפלי, והוא משחית את מנגנון התיקון גופו - את הקורפוס שמולו בודקים. מנגנוני החיסון הקיימים של המשפט - ההליך האדוורסרי, העורכים המשפטיים, מנגנוני האזכור - התפתחו כנגד פתוגן אחר לגמרי.

וכך שבה ומופיעה, גם בחזית זו, התבנית שהמאמר מבקש לחשוף: המערכת החישובית מספקת את התוצרת ביעילות חסרת תקדים - טקסטים, אסמכתאות, טיוטות - ובה בעת מפרקת את התנאי שבזכותו הייתה לתוצרת הזו סמכות. הרשומה המשפטית עשירה משהייתה מעולם - ולראשונה מאז מיסודה של הרשומה הרשמית, דרך ייצורה שוב אינה ערבה לאמינותה; ובשונה מחזיתות אחרות, חזית זו אינה תלויה בשום החלטה מוסדית לאמץ בינה מלאכותית בשפיטה, שכן הזיהום נכנס דרך כתבי הטענות, המאגרים וקורפוסי האימון - בין שישב אי-פעם שופט מול מודל ובין שלא. משפט שרשומתו סינתטית עשוי להוסיף ולפעול, ואף ביעילות גוברת; אלא שהוא פועל אז כמנגנון של בקרה חברתית יעילה, לא כמקור סמכות שניתן לתת בו אמון - וזהו פן אחד, מובחן ובלתי-תלוי, של שינוי-המשטר במקורות הלגיטימציה שהמאמר כולו מבקש למפות.

פרק ב.3: המושבע האלגוריתמי - הדחת המצפון האנושי מן ההכרעה

מכל התנאים הנמנים במאמר זה, הנדון בפרק זה הוא אולי הסמוי ביותר מן העין, דווקא משום שהוא נדמה מובן מאליו: הדרישה שההכרעה המשפטית תעבור, בנקודה כלשהי במסלולה, דרך מצפונו של אדם. אין זו דרישה ראייתית ואף לא דרישת הנמקה - אלה נדונו בפרקים הקודמים - אלא דרישה הנוגעת לזהות המכריע עצמו: לשאלה מי רשאי לשאת באחריות להכרעה שבכוחה לשלול את חירותו של אדם. מוסד המושבעים במסורת המשפט המקובל הוא ביטויה המוסדי המובהק. שנים-עשר בני קהילה, נטולי הכשרה משפטית במתכוון, מוזמנים אל לב ההליך הפלילי לא למרות היותם הדיוטות אלא בגללה: תפקידם להזרים אל תוך המשפט את מצפון הקהילה שבשמה הוא פועל, ולשמש בלם דמוקרטי מפני שלטון המתרחק מנשלטיו. גם שיטות משפט שאינן נוהגות מושבעים, והשיטה הישראלית בכללן, מקיימות את הדרישה בגרסתה השיפוטית: ההנחה שמאחורי כל הכרעה עומד אדם שמצפונו היה שותף לה, ושיכול היה - ולו כאפשרות רדומה - לסרב. הדרישה הזאת אינה קישוט הומניסטי על גבי מנגנון שהיה יכול לפעול גם בלעדיה; היא, כך אטען, תנאי-לגיטימציה עצמאי, שהפרתו אינה מתרפאת גם כאשר התוצאה המתקבלת נכונה לגופה.

שיאה של הדרישה הזאת הוא מוסד ביטול מטעם המצפון: כוחו של חבר מושבעים לזכות נאשם בניגוד לדין ולראיות, כמעשה של התרסה מוסרית כלפי נורמה שהקהילה אינה מסוגלת עוד לשאת. ההיסטוריה האנגלו-אמריקנית מכירה פרקים שבהם סירבו מושבעים להרשיע על יסוד חוקים שנתפסו בעיניהם כבלתי-נסבלים - מתביעות בגין סיוע לעבדים נמלטים ועד העמדות לדין על פרסומים ביקורתיים נגד השלטון.⁴¹ מנקודת מבטה של תורת הכללים, הביטול הוא אנומליה מביכה: פרצה של אי-חוקיות מוסדרת בלב ההליך. אך מנקודת מבטה של תורת הלגיטימציה הוא מוסד קונסטיטוטיבי. הוא העדות החיה לכך שהמשפט איננו מכונת יישום של נורמות, אלא סדר נורמטיבי המותיר בליבו שסתום מצפוני - נקודה שבה הקהילה רשאית לומר "עד כאן", בלי להפיל את הסדר כולו.

מאחורי המוסד הזה עומדת תפיסה עתיקה של מהות השיפוט. אריסטו הבחין בין החוכמה העיונית לבין התבונה המעשית (פרונסיס) - אותו כושר לשפוט נכונה את המקרה הקונקרטי, כושר המתפתח מתוך ניסיון חיים ואינו ניתן לרדוקציה לכללים.⁴² השיפוט הפרונטי, אם מותר לכנותו כך, איננו יישום-כלל: הוא ראייה של הפרט על מלוא הקשריו, ראייה שאין לה נוסחה משום שכל מקרה קונקרטי עשיר מכל כלל שנוסח מראש. שאואר הראה עד כמה קבלת החלטות מבוססת-כללים כרוכה מעצם טיבה בעיוורון מכוון לנסיבות הפרט - עיוורון שהוא לעיתים מחירו הסביר של שלטון החוק, אך לעולם אינו כל הסיפור.⁴³ המושבע האנושי הוא, במובן זה, מוסד של פרונסיס עממית: הוא הוכנס אל ההליך בדיוק כדי שהמקרה הקונקרטי לא יישפט על ידי הכלל לבדו, וכדי שברגע ההכרעה יעמוד מול הנאשם לא מנגנון אלא מבט אנושי. חשוב להטעים: אין פירוש הדבר שהשיפוט האנושי עדיף אמפירית. הוא מוטה, עייף, נתון להשפעות זרות, והביקורת על כשלי השיפוט האנושי מוכרת דיה. הטענה היא אחרת: שהערך של המצפון בהכרעה אינו ערך של דיוק אלא ערך של אחריות, ולכן אין הוא ניתן להמרה במדד ביצועים.

על רקע זה יש לקרוא את מקרה המבחן שבמרכז הפרק. באוקטובר 2025 ערך בית הספר למשפטים של אוניברסיטת צפון קרוליינה משפט מבוים שבו ישבו על ספסל המושבעים שלושה מודלי שפה גדולים, מתוצרת שלוש חברות שונות.⁴⁴ התיק התבסס על הרשעה אמיתית של קטין: נאשם שנכח בזירת שוד אך לא נטל בו חלק פעיל. אחד המודלים נטה תחילה להרשעה; מודל אחר טען מן הרגע הראשון כי נוכחות גרידא בזירה אינה מגבשת כוונה פלילית משותפת - הבחנה דוקטרינרית שדווקא הערכאה האנושית התקשתה בה. לאחר דליברציה בין שלוש המכונות הוכרע התיק בזיכוי פה-אחד: היפוך של פסיקת השופט האנושי, שבמציאות הרשיע. על פני הדברים, סיפור הצלחה: המכונות היו זהירות מן האדם, מדויקות ממנו ביסודות העבירה, והגיעו לתוצאה שרבים יראו בה את התוצאה הצודקת. אלא שדווקא בתוך ה"הצלחה" הזאת מקופלים, כך אבקש להראות, שלושה ממצאים מטרידים - "ממצאים" במובן הזהיר: הדגמה פדגוגית מתועדת אחת, לא ניסוי מבוקר.

הממצא הראשון נוגע למספר אחד. במהלך הדליברציה דיווח אחד המודלים על ביטחון של כ-0.55 באשמה - ובה בעת הכריז על עצמו כמי ש"מתלבט". פרופסור לפילוסופיה שליווה את הניסוי העלה זאת כביקורת: אם 0.55 הוא הסתברות, הרי שהוא כשלעצמו כבר נוטה לזיכוי ולא ל"התלבטות" - ועצם הבלבול הזה מסגיר שהמערכת אינה תופסת באמת את הסטנדרט שהיא אמורה ליישם. הבלבול הזה אינו פרט טכני; הוא נוגע בלב מושג ההכרעה הפלילית. "מעבר לספק סביר" איננו סף הסתברותי, והמסורת המשפטית סירבה בעקביות - ובצדק - לנקוב בו מספר. זהו סטנדרט נורמטיבי: הוא מבטא את הכרעתה המוסרית של קהילה בדבר חלוקת סיכון הטעות בין הנאשם לחברה, את הקביעה שהרשעת חף מפשע חמורה לאין ערוך מזיכוי אשם. ספק הוא "סביר" לא כאשר הוא חוצה סף מספרי, אלא כאשר אדם הנושא באחריות לתוצאה אינו מצליח להשתיקו במצפונו. לתרגם את הסטנדרט הזה למספר אין פירושו לדייק אותו אלא להחליפו: להמיר שאלה של אחריות מוסרית בשאלה של כיול סטטיסטי, ולמחוק בכך בדיוק את מה שהסטנדרט נועד לשמר. ובמקום שבו ההכרעה נגזרת מכיול, די בהזזת הסף כדי להזיז את הצדק - והזזת סף איננה עוד מעשה מצפוני שמישהו נושא באחריות לו, אלא החלטת תִּכנוּת.

הממצא השני נוגע למה שאין למודלים: ניסיון חיים. מושבע אנושי קורא שפת גוף של עד; הוא יודע - לא כידיעה מילונית אלא כידיעה חיה - מהו פחד, מהו עוני, כיצד נראה מפגש של נער עם שוטרים בשכונה שבה גדל. הידע השיפוטי הזה הוא ידע מגולם: הוא שוכן בגוף ובביוגרפיה, לא בטקסט. מודל, מלומד ככל שיהיה, למד את העולם מתוך ייצוגיו - טקסט, תמונה וקול - ולא מתוך חיים בתוכו; ואולם חלקים שלמים של המציאות האנושית - ודווקא אלה הרלוונטיים ביותר להכרעה פלילית - אינם מיוצגים היטב בשום קורפוס, משום שמי שחי אותם אינו, על פי רוב, מי שמייצר את התיעוד. המושבע האלגוריתמי אינו "מושבע חסר ניסיון"; הוא ישות שקטגוריית הניסיון אינה חלה עליה כלל. והעמיתוּת (peerhood) - היסוד שעליו נבנה המוסד כולו, הזכות להישפט בידי שווים - אינה ניתנת לחיקוי סטטיסטי.

הממצא השלישי הוא העמוק מכולם, ויש לנסחו בדייקנות: אין הטענה שמכונה אינה מסוגלת, מבחינה טכנית, להימנע מהרשעה בניגוד לדין - אפשר לתכנת גם "שסתום" כזה - אלא שאין היא יכולה לשאת באחריות המצפונית שביטול מטעם המצפון מגלם. מודל מיושר (aligned) - מודל שעבר אימון מכוון לציות לכללים, להימנעות מנזק ולכיבוד הוראות - אינו יכול לבטל מטעם המצפון במובן העמוק הזה. הביטול הוא במהותו הפרת-כלל מצפונית: המושבע המבטל יודע מה הדין דורש, ובוחר ביודעין שלא לציית. ואילו תהליך היישור של המודל מכוון בדיוק לכך שהפער הזה - בין מה שהכלל דורש לבין מה שהמערכת עושה - לא ייפתח לעולם. המושבע האלגוריתמי המושלם הוא אפוא מושבע שהפונקציה העליונה של מוסד המושבעים נעולה בפניו מבנית. הוא יכול לזכות כאשר הראיות מצדיקות זיכוי; הוא אינו יכול לזכות כהתרסה. אפשר, כמובן, לאמן מודל שיסרב לעיתים לכללים - אך אז לא קיבלנו מצפון אלא כִּיול של אי-ציות, פרמטר נוסף שמישהו קבע מראש, וההתרסה שכולה צפויה מראש אינה התרסה. ומשעה שהוסר השסתום המצפוני, מה שנותר אינו מוסד מושבעים משופר - אלא מנגנון יישום שהולבש בטקס של דליברציה.

כאן מתחדד הטיעון שאני מבקש להציב. האינטואיציה הרווחת גורסת שאם המכונה מגיעה לתוצאות טובות יותר - והזיכוי בניסוי צפון קרוליינה הוא לכאורה תוצאה כזאת - הרי שההתנגדות לה אינה אלא שמרנות סנטימנטלית. אך אינטואיציה זו מניחה שהלגיטימציה של ההכרעה נגזרת מטיב התוצאה, וזו בדיוק ההנחה שיש לדחות. הלגיטימציה של הכרעת מושבעים אינה נובעת מכך שהיא מדויקת יותר מחלופותיה; היא נובעת ממקור השיפוט - מן העובדה שבני קהילה ישבו זה מול זה, נשאו יחד באחריות מצפונית להכרעה, ויוסיפו לחיות בקהילה שבה יעמוד תוקפהּ. הרשעה היא מעשה שהקהילה עושה, לא פלט שהיא מקבלת; ומעשה, להבדיל מפלט, דורש עושה שניתן לייחס לו אחריות. הנאשם העומד מול חבר מושבעים יכול, גם ברגע הרשעתו, לומר: בני קהילתי שמעו אותי, התלבטו, והכריעו - ואילו הנאשם העומד מול הכרעה חישובית יכול לומר רק: כך יצא החישוב. ההבדל בין שני המשפטים הללו הוא, בעיניי, ההבדל בין סמכות לבין כוח. מחקר אמפירי ראשוני החל לאחרונה לבחון באופן שיטתי אם - וכיצד - מושפעות הכרעותיהם של מושבעים ממקורה של המלצת ההכרעה - מערכת בינה מלאכותית או שופט אנושי (בניסוי אחד כזה, ראוי לציין, ניתן לשתי ההמלצות משקל שווה) - ועצם התגבשותו של שדה מחקר כזה מעיד עד כמה חדלה ההחלפה להיות היפותטית.⁴⁵ ומחקר שהשווה את הכרעותיו של מודל שפה להכרעותיהם של שלושים ואחד שופטים פדרליים, שנבחנו קודם לכן באותה משימת ערעור, מצא היפוך מאלף: השופטים הוטו מנסיבות מעוררות אהדה, ואילו המודל דבק בתקדים כמעט בלא תלות בהן - "שופט פורמליסט, לא שופט אנושי", כלשון החוקרים.⁴⁶ ואין מדובר בחזית הנוגעת למושבעים בלבד. פרשת לומיס, שבה אישר בית המשפט העליון של ויסקונסין הסתמכות של שופט על כלי אלגוריתמי להערכת מסוכנות בגזירת הדין, מדגימה את גרסתה הזוחלת של אותה תזוזה עצמה.⁴⁷ השופט נותר, במישור הפורמלי, המכריע; אך הטיית האוטומציה שתוארה בפרק ב.1⁴⁸ - נטייתם המוכרת של מקבלי החלטות לאמץ המלצה ממוחשבת גם כשנתונה בידיהם סמכות מלאה לסטות ממנה - הופכת את המכריע האנושי, בהדרגה ובלא הכרזה, למאשרר של הכרעת המכונה. ההדחה אינה מתרחשת ברגע דרמטי אחד; היא מתרחשת כשחיקה.

ניסוח חד של ההתנגדות הזאת הציע אזיז הוק (Huq), הטוען כי אין לבסס "זכות להכרעה אנושית" העומדת בפני עצמה: מה שאנו מבקשים להגן עליו - כבוד, השתתפות, דיוק, היעדר הטיה - ניתן, לשיטתו, להבטיח גם בהכרעה ממוכנת המכוילת היטב, ולעיתים אף טוב יותר; ומשעה שהובטחו אלה, שוב אין לדידו טעם עצמאי המצדיק דרישה ל"הכרעה אנושית" כשלעצמה.⁴⁹ אודה בכוחה של הטענה, ואשיב עליה בשתי ההבחנות שכבר הנחתי. ראשית, היא ממירה את שאלת המצפון בשאלת התפוקה: ערכו של המצפון בהכרעה אינו ערך של דיוק אלא של אחריות, ואחריות אינה תכונה של פלט אלא מעמד של עושה - מי שניתן לתבוע ממנו דין וחשבון, לביישו ולהעבירו מכהונתו. הרשעה היא מעשה, לא תוצאה שנתקבלה, ומעשה דורש עושה. שנית, גם אם יובטחו כל "תוצרי" האנושיות שהוק מונה, ייוותר בלא מענה השסתום המצפוני - כוחו של המכריע לומר "לא" לדין שהוא עצמו מכיר, מתוך אחריות אישית לתוצאה - שהראיתי כי הוא נעול מבנית בפני מודל מיושר. הזכות שהוק מבקש לפרק אינה, אפוא, זכות ל"מגע אנושי" אלא הזכות לכך שמאחורי ההכרעה יעמוד מי שנושא בה. הבחנה קרובה, בין "צדק מקודד" (codified justice) ל"צדק שביושר" (equitable justice), הציעו רה וסולו-נידרמן; ואף שהם זהירים מן המסקנה שאני גוזר, הם מיטיבים לתאר את הציר שעליו נדונה חזית זו - ככל שההכרעה נעשית מקודדת יותר, כן מצטמצם המרחב שבו פועלת אותה תבונה-שביושר שאין לה נוסחה.⁵⁰ בכתיבה הישראלית כבר הוצבה השאלה במפורש - "האם מכונות צפויות להחליף שופטים בהכרעה בתביעות?" - מתוך אבחנה שהאוטומציה משנה מאפיין יסוד של ההליך: הגורם האנושי המכריע.⁵¹

התמונה המצטיירת חוזרת אל מבנה העומק של המאמר. גם בחזית הזאת מספקת המערכת החישובית את התוצאה המבוקשת - הכרעה זהירה, עקבית, ואולי אף "צודקת" - תוך שהיא מפרקת את התנאי שבזכותו התוצאה היא משפט ולא בקרה חברתית יעילה. הדחת המצפון האנושי מן ההכרעה היא הגירת מקור-הסמכות בצורתה הגלויה ביותר: לא שינוי בכלים שבידי השופט אלא שינוי בזהותו של השופט - ומשמע, שינוי-משטר במקורות הלגיטימציה עצמם.

פרק ב.4: הדין הפרסונלי - קץ הכלליות והשוויון בפני החוק

הראשון בשמונת עקרונות המוסר הפנימי של החוק, כפי שניסח אותם פולר, הוא עקרון הכלליות: הדרישה שהמשפט ידבר בכללים - נורמות החלות על סוגים של בני אדם ושל מצבים - ולא בהוראות נקודתיות התפורות לאדם זה או אחר.⁵² מפתה לקרוא את הדרישה הזאת כמגבלה טכנית, שריד לעידן שבו לא ניתן היה, מבחינה מעשית, לנסח נורמה נפרדת לכל אזרח: המחוקק אינו מכיר את אזרחיו, ולכן הוא נאלץ לדבר אליהם בהכללות - לפנות אל סוגים של בני אדם ואל סוגים של מעשים.⁵³ אך קריאה כזאת מחמיצה את העיקר. הכלליות אינה פשרה כפויה אלא ערך מכונן. נורמה כללית עושה שני דברים שאין שום הוראה פרטנית מסוגלת לעשות: היא מכוננת קהילה של שווים - ציבור שחבריו יודעים כי אותו דין עצמו חל על כולם, על החזק ועל החלש, על השופט ועל הנשפט - והיא מייצרת זירה ציבורית שבה מתנהל הוויכוח על תוכנו של הדין. כאשר החוק קובע סטנדרט אחד לכולם, השאלה "מהו הסטנדרט הראוי" היא בהכרח שאלה ציבורית, שלכל אזרח יש עניין בה ומעמד לטעון לגביה. וולדרון הזכיר לנו כי שלטון החוק אינו רק טכניקת משילה אלא אופן של יחס: משילה באמצעות נורמות כלליות מתייחסת אל האזרח כאל סוכן תבוני, המסוגל לקלוט כלל, להבינו וליישמו על עצמו.⁵⁴ הכלליות, במובן זה, היא צורת הכבוד שהמשפט רוחש לנמעניו.

הדמות המרכזת את שני התפקידים האלה בדיני הנזיקין ומעבר להם היא "האדם הסביר". זוהי, כידוע, פיקציה: איש מעולם לא פגש את האדם הסביר, ויש הגורסים כי הדמות נוטה ללבוש את פניהם של מנסחיה.⁵⁵ ואולם דווקא בהיותה פיקציה טמון ערכה המכונן: מפני שהאדם הסביר אינו אף אחד, הוא יכול להיות כולם. דרכו מתווכחת חברה, בפומבי ובמושגים משותפים, על השאלה מה מותר לצפות מאדם - כמה זהירות, כמה תשומת לב, כמה התחשבות בזולת. פסק דין הקובע כי "אדם סביר היה צופה את הנזק" אינו רק מכריע בסכסוך נתון; הוא מנסח, באוזני הציבור כולו, אמירה נורמטיבית על דמות האדם שהמשפט מבקש לכונן. הפיקציה היא הפורום.

על רקע זה יש לקרוא את חזון הדין הפרסונלי (personalized law) שמציעים בן-שחר ופורת - ההצעה השיטתית והמפורטת ביותר עד כה להחלפת הכלליות בדיוק אלגוריתמי.⁵⁶ תמצית החזון: במקום "האדם הסביר" יבוא "אתה הסביר" - סטנדרט התנהגות הנגזר מנתוניו של האדם הקונקרטי: יכולותיו הקוגניטיביות, גילו, ניסיונו, היסטוריית התנהגותו, ובאופק אף נתוני ניטור בזמן אמת. תחת מהירות מרבית אחידה - מהירות מותרת אישית, גבוהה יותר לנהג מיומן ברכב חדיש ונמוכה יותר לנהג מתחיל בשעת לילה; תחת סטנדרט אחיד ברשלנות רפואית - חובת זהירות המכוילת לכישוריו הנמדדים של הרופא המסוים; תחת גיל כשרות אחיד - כשרות משפטית הנקבעת לפי בשלות קוגניטיבית אינדיבידואלית. הכלל הכללי מפנה את מקומו למה שקייסי וניבלט כינו "מיקרו-הנחיה" (microdirective): הוראה אופטימלית, מותאמת אישית, המשודרת לכל פרט בנקודת ההחלטה עצמה.⁵⁷

הגינות אינטלקטואלית מחייבת להכיר בכוחה של ההצעה. ההכללה היא באמת מכשיר גס: היא מתירה לנהג המסוכן את שהיא אוסרת על הזהיר, והיא מטילה על הקשיש בירידה קוגניטיבית חובות שאין הוא מסוגל עוד לעמוד בהן - ומפקירה אותו לעסקאות שכריתתן היא עצמה עוול. דין פרסונלי מיטיב, לכאורה, בדיוק עם מי שהדין האחיד מפקיר: הוא יכול לפרוש הגנות מוגברות על צרכן פגיע, להתאים חובות גילוי ליכולת הבנה, לזהות מראש ניצול ולחסום אותו. במונחי תוצאה - פחות תאונות, פחות ניצול, פחות אי-הצדק שבהכללה - היתרון ממשי. יתרה מזו, בן-שחר ופורת רשאים לטעון כי דווקא הפרסונליזציה מגשימה שוויון במובנו העמוק: יחס שווה לשונים הוא עצמו אי-שוויון, ואילו התאמת הנורמה ליכולת מעניקה לכל אדם את הדין ההולם אותו באמת. זהו, שוב, הדפוס החוזר במאמר זה: המערכת החישובית אכן מספקת את המבוקש - וליתר דיוק, מספקת אותו טוב מכפי שסיפק אותו המשפט הכללי מעולם.

אלא שכאן בדיוק נפרץ התנאי. כאשר הנורמה נתפרת לכל אזרח לפי מידותיו, החוק חדל להיות סטנדרט משותף ונעשה אוסף של צווים אישיים. השוויון הפורמלי בפני החוק - הרעיון שדין אחד חל על הכול - אינו עוד ערך אחד המתחרה בערכים אחרים וניתן לאיזון כנגד תועלת; הוא תנאי-לגיטימציה. יכולתו של הנשפט לומר "הדין שמכוחו אני נשפט הוא הדין החל על כולם" היא חלק ממה שהופך את הציות לציות לחוק, להבדיל מכניעה לכוח. משעה שלכל אדם דין משלו, נולד ריבוד אלגוריתמי: שכבות של אזרחים הנבדלות זו מזו לא בעושר או במעמד - הבחנות שהמשפט המודרני התאמץ דורות לנטרל - אלא בפרופיל שהמכונה שרטטה להן. ומן הריבוד צומחת סטיגמה משפטית מקודדת: מי שהוקצו לו מהירות נמוכה, כשרות מוגבלת או חובת זהירות מחמירה נושא עמו תווית - לא תווית שהוטבעה בהליך פומבי וניתנת לערעור, אלא ציון הטבוע בפרופיל ומשתכפל ממערכת למערכת. ובה בעת אובד הפורום: אין עוד "אדם סביר" אחד שאפשר להתווכח עליו בציבור - בפסיקה, בכיתה, בבית המחוקקים - אלא מיליוני ציונים אישיים שאיש אינו מתווכח עליהם, כי אין עוד "עליהם" משותף. הוויכוח הציבורי על דמות האדם שהמשפט מצפה לה מתייתר, שכן אין עוד דמות אחת לצפות לה. ראוי לעמוד על תחכומו של המהלך: איש אינו מבטל את השוויון בפני החוק בהכרזה; הוא פשוט חדל להיות אפשרי מבחינה מושגית, משום שלא נותר "חוק" אחד שאפשר להיות שווים בפניו.

ניתוחו של שאואר מעניק לאבחנה הזאת עומק נוסף. שאואר הראה כי כוחו של הכלל טמון דווקא במה שנחזה כחולשתו: בהיותו על-כולל ותת-כולל ביחס לתכליתו. הכלל "גס" בכוונת מכוון - הוא חוסם את מפעילו מלרדת אל מלוא נסיבותיו של המקרה הבודד, ובכך משמש מחסום מפני שרירות, מפני משוא פנים ומפני עודף ביטחונו של המכריע.⁵⁸ הדין הפרסונלי מבטיח לסגור את הפער בין הכלל לתכליתו - ומעלים עמו את המחסום. אם הנורמה מכוילת תדיר לכל פרט, שוב אין דבר החוצץ בין האזרח לבין שיקול דעתה של המערכת המכיילת; אופטימיזציה מושלמת היא גם שרירות פוטנציאלית מושלמת, שאין לה עוד כלל להישבר עליו. ברוח קרובה הזהירה קארן יאנג (Yeung) מפני "היפר-דחיפה" (hypernudge): רגולציה מותאמת-אישית, הניזונה מנתוני עתק ומתעדכנת בזמן אמת - דחיפה שנותרה "רכה" באופייה, אך בהיותה מרושתת ומכוילת ללא הרף עוצמתה רבה לאין ערוך מזו של הדחיפה המסורתית: סביבה נורמטיבית העוטפת כל פרט באופן רציף, דינמי וחמקמק.⁵⁹ במונחי המאמר: בקרה חברתית יעילה במיוחד, שמקור תוקפה אינו עוד הסכמתם של שווים לכלל משותף אלא טיב הכיול עצמו.

על כל אלה ניתן להשיב תשובה מתבקשת: הרי המשפט מעולם לא היה עיוור להבדלים שבין בני אדם. הוא מבחין בין קטינים לבגירים, בין שפויים לחולי נפש, בין בעל מקצוע להדיוט; חובת הזהירות של המנתח ממילא אינה זו של עובר האורח. אם כך, אין הדין הפרסונלי אלא המשך של מסורת ותיקה באמצעים מדויקים יותר. דומה כי התשובה מחמיצה הבדל של מהות ולא של דרגה. ההבחנות המסורתיות הן קטגוריאליות ופומביות: הקטגוריה "קטין" מוגדרת בחוק, גבולותיה נקבעו בהליך דמוקרטי, תוכנה גלוי, והיא עומדת תדיר לביקורת ציבורית ושיפוטית - ומי שנמנה עמה יודע שהוא חולק את דינו עם כל בני הקטגוריה. הכלליות נשמרת אפוא בתוך ההבחנה: הדין נותר כללי ביחס לקבוצה מוגדרת, נראית ובת-ויכוח. הפרסונליזציה החישובית שונה בשלושה מובנים מצטברים: היא רציפה - אינסוף מדרגות תחת קומץ קטגוריות, עד שאיש אינו חולק עוד את דינו עם איש; היא אטומה - הפרופיל נגזר ממשקלים סטטיסטיים שאינם ניתנים לניסוח כטעם ציבורי; והיא, בחלקה, מסחרית - הנתונים והמודלים מצויים בידי תאגידים, והכיול הנורמטיבי נשען על תשתית פרטית שאינה כפופה להליך ולביקורת כדרך שכפוף להם דבר חקיקה. הבחנה קטגוריאלית היא כלל צר; פרופיל אישי אינו כלל כלל.

נמצא שהחזית הזאת חוזרת אל המבנה שהמאמר מבקש לחשוף. הדין הפרסונלי אינו מפר את הבטחתו - הוא מדייק, הוא מגן, הוא מתאים, ובמונחי תפוקה ייתכן שהוא עדיף על כל דין אחיד. אך תוך כדי כך הוא מפרק את מה שהכלליות והשוויון הפורמלי מגלמים: קיומו של סטנדרט משותף אחד, גלוי לוויכוח, שבני הקהילה הפוליטית כפופים לו יחדיו כשווים. גם כאן, אפוא, אין לפנינו תקלה הניתנת לתיקון הנדסי אלא ביטוי נוסף לאותה הגירת מקור-הסמכות שהמאמר מתחקה אחריה: מן הכלל שציבור של שווים נתן לעצמו - אל הכיול שהמערכת מחשבת עבור כל אחד לבדו.

פרק ב.5: המשפט הנוזלי - אובדן הפומביות, הבהירות והקביעות

מבין שמונת העקרונות שכינס פולר תחת הכותרת "המוסר הפנימי של החוק", שלושה נוגעים במישרין ליחס שבין הנורמה לבין נמעניה: פומביות (promulgation) - החוק חייב להתפרסם, שאם לא כן אין למי שכפוף לו דרך לדעת מה נדרש ממנו; בהירות (clarity) - עליו להיות מנוסח באופן שנמעניו מסוגלים להבינו; וקביעות (constancy) - אל לו להשתנות בתדירות המסכלת כל אפשרות להסתמך עליו.⁶⁰ פולר עמד על כך שאין מדובר בהמלצות של נימוס חקיקתי אלא בתנאים מכוננים: שיטה שכלליה נסתרים, סתומים או מתחלפים בלי הרף אינה שיטת משפט לקויה - היא חדלה להיות שיטת משפט. רז, שחלק על פולר בשאלות יסוד אחרות, הגיע מכיוון שונה למסקנה קרובה: ליבו של שלטון החוק הוא ביכולתו של הדין להדריך התנהגות מראש, ומכאן שערכו נמדד במידת הוודאות שהוא מעניק לאדם המבקש לכלכל את צעדיו - לתכנן, להסתמך, לפעול כסוכן אוטונומי בתוך מסגרת נורמטיבית ידועה ויציבה.⁶¹ בפרדיגמה הקיימת שלושת התנאים הללו מגולמים בצורתו החומרית של החוק: טקסט פומבי, כתוב בשפה טבעית, שנחקק בהליך גלוי ומתועד, מתפרסם ברשומות, ועומד בתוקפו עד שיתוקן בהליך גלוי אחר. הצורה הזאת שקופה לנו מרוב הרגל, עד שנשכח כי היא עצמה הכרעה - וכי אפשר לוותר עליה.

המשפט החישובי (computational law) מוותר עליה. תנועת "כללים כקוד" (Rules as Code), הקונה לה אחיזה במינהל הציבורי במדינות שונות, מבקשת לקודד נורמות משפטיות כאלגוריתמים בני-הרצה: במקום שפקיד או אזרח יפרשו טקסט, המערכת "מריצה" את הכלל על נתוני המקרה ומפיקה תוצאה. בגרסתה הצנועה זוהי טכניקת יישום; אך הגיונה הפנימי דוחף הלאה. משעה שהנוסח המחייב-בפועל הוא הקוד - שכן הוא הקובע מי יקבל קצבה, רישיון או שומה - נדחק הטקסט בשפה הטבעית למעמד של פרשנות נלווית, והחוק "האמיתי" שוכן במקום שרוב נמעניו אינם יכולים לקרוא בו. השלב הבא כבר מוצע בספרות, ובהתלהבות: חקיקה דינמית וגנרטיבית, המתעדכנת בזמן אמת לפי אינדיקטורים כלכליים וחברתיים - שיעור מס שנע עם נתוני המקרו, תקן בטיחות המכוונן את עצמו לפי זרם הדיווחים, כלל אשראי המתעדכן מדי שעה. חסידי הגישה, ובראשם איידיד ואלארי, רואים בכך את שכלולו של הדין: חוק המתאים את עצמו למציאות תחת שיפגר אחריה תמיד.⁶²

לתיאור הסביבה הנורמטיבית המתהווה אבקש לשאול את מטבע לשונו של באומן. באומן תיאר את המודרניות המאוחרת כ"נוזלית": מצב שבו המבנים החברתיים מתמוססים מהר מכפי שמספיקות להתגבש סביבם תבניות פעולה, ולכן שוב אינם יכולים לשמש מסגרות התמצאות לתכניות חיים.⁶³ המשפט הנוזלי (liquid law) הוא בן דמותו המשפטי של מצב זה: סביבה נורמטיבית הנתונה בזרימה תמידית, שאין בה עוד עוגנים - לא נוסח יציב שאפשר ללמוד, לא רגע חקיקה שאפשר להצביע עליו, לא פרק זמן שבו הדין עומד במקומו די הצורך כדי שציפיות יתגבשו סביבו. הדין שבדקת בבוקר אינו בהכרח הדין של אחר הצהריים; וחמור מכך, מאבדת השאלה "מהו הדין" את פשרה - נותר רק פלט רגעי של תהליך אופטימיזציה מתמשך.

מקרה הקיצון ממחיש את קצה הכיוון. פלטפורמות של "צדק מבוזר" דוגמת קלרוס (Kleros) מציעות יישוב סכסוכים חוץ-מדינתי המובנה כולו בקוד: הצדדים מפקידים את התחייבויותיהם בחוזה חכם, מושבעים אנונימיים המחזיקים באסימוני הפלטפורמה מכריעים מתוך תמריץ כלכלי, וההכרעה נאכפת אוטומטית ברמת הקוד - הכסף עובר, הנכס הדיגיטלי משתחרר - ללא צו שיפוטי, ללא הוצאה לפועל ריבונית, ולמעשה ללא כל נקודת מגע עם המדינה.⁶⁴ אין זו עוד בוררות שהמשפט המדינתי סובל בשוליו; זהו דין שלם - נורמה, הליך, הכרעה ואכיפה - שהפך תשתית תכנותית פרטית. חוק כזה אינו מתפרסם, כי אין מה לפרסם; אינו בהיר, כי הוא כתוב בשפה שאינה מיועדת לבני אדם; ואינו קבוע, כי הוא ניתן לעדכון כדרך שמעדכנים גרסת תוכנה.

הילדברנדט העניקה להבדל הזה את ניסוחו החד ביותר. המשפט המודרני, היא מזכירה, פונה אל נמעניו כאל סוכנים מסוגלי-הנמקה: הוא מציב דרישה, מנמק אותה, ומותיר לאדם את המרחב - ואת האחריות - להחליט אם לציית. ארכיטקטורה טכנולוגית, לעומת זאת, אינה פונה אל איש; היא פשוט אוכפת את עצמה. פס האטה אינו אוסר נסיעה מהירה - הוא מונע אותה; וחוק שהוטמע בקוד אינו אוסר את ההתנהגות הסוטה - הוא מוחק אותה ממרחב האפשרויות.⁶⁵

כאן מתחוור מדוע אין לפנינו שלוש תקלות נפרדות אלא פריצה אחת של תנאי-לגיטימציה משולש. חוק המשתנה תדיר מדי מפר את הקביעות; חוק הכתוב בקוד שאינו קריא לנמעניו מפר את הפומביות ואת הבהירות גם יחד; וחוק שאכיפתו מוטמעת בו מחסל את המרווח שבין הנורמה לבין ההתנהגות - אותו מרווח שבו מתקיימים הציות, ההפרה המודעת והמחאה. בפרדיגמה הקיימת, אזרח הסבור שהחוק אינו צודק יכול להפר אותו בגלוי ולשאת בתוצאות, לתקוף את תוקפו בבית המשפט, או להתארגן לשינויו - וכל אלה מניחים שהחוק ידוע, מובן ויציב דיו כדי שאפשר יהיה להצביע עליו. וולדרון עמד על כך ששלטון החוק אינו רק משטר של כללים אלא פרקטיקה של טיעון - מסגרת שבה הנמען רשאי להתייצב ולהתווכח על משמעות הנורמה החלה עליו.⁶⁶ המשפט הנוזלי אינו מותיר על מה להתווכח: אין נוסח, אין רגע, אין כתובת. מה שנותר אינו נורמה שאפשר לציית לה, להפר אותה במודע או למחות נגדה, אלא ניהול קיברנטי של התנהגות - בקרה חברתית יעילה שאינה זקוקה עוד להסכמתם של נמעניה, ולפיכך גם אינה מבקשת אותה. זו אינה תקלה טכנית הניתנת לתיקון בממשק ידידותי יותר; זהו שינוי במעמדו של האזרח - מסוכן שהדין פונה אליו, לאובייקט שהמערכת מנתבת.

על הטיעון הזה אפשר להשיב תשובה מתבקשת: הרי גם היום איש אינו יודע את הדין כולו. דיני המס סבוכים מנשוא, הרגולציה משתרעת על עשרות אלפי עמודים, והאזרח מן היישוב נשען ממילא על מתווכים מקצועיים. אם עמימות-בפועל לא שללה את הלגיטימציה של המשפט המודרני, מדוע ישלול אותה המשפט החישובי? אלא שדומה כי ההשוואה מחמיצה הבחנה מבנית. הסבך הרגולטורי הקיים הוא עמימות-בפועל בתוך מבנה נגיש-עקרונית: הטקסט קיים, פומבי וכתוב בשפה אנושית; מי שמתאמץ - או שוכר מומחה - מגיע אל הנורמה עצמה; וכשל הנגישות ניתן לתיקון בכלים המוכרים של פישוט, קונסולידציה והנגשה, ואף עומדת לאזרח עילה לדרוש תיקון כזה. המשפט הנוזלי, לעומת זאת, אינו נגיש עקרונית: אין טקסט יציב שאליו אפשר להגיע, אין רגע שבו הנורמה עומדת במקומה די הצורך כדי להילמד, ואין שפה אנושית שבה היא מנוסחת. את הכשל הראשון מתקנים; השני מבטל את עצם האפשרות שהתיקון מכוון אליה. ההבדל אינו כמותי - כמה קשה לדעת את הדין - אלא קטגורי: האם נותר בכלל "דין" שאפשר לדעת אותו.

וכך, גם בחזית זו, שב ומופיע הדפוס שהמאמר מבקש לחשוף: המערכת החישובית מספקת את המבוקש - דין מעודכן תמיד, נאכף בשלמות, מותאם למציאות ללא פיגור - ובה בעת מפרקת את התנאים שבזכותם היה הדין ראוי לציות, ולא רק כפוי על נמעניו.

פרק ב.6: הנעילה הנורמטיבית - אובדן כושר-התיקון המוסרי

החזית השישית, החותמת את הפרק, שונה מחמש קודמותיה במובן אחד מהותי: היא אינה נוגעת לאופן שבו המשפט מכריע בהווה, אלא ליכולתו להשתנות בעתיד. התנאי הנפרץ כאן הוא כושר-התיקון המוסרי - יכולתה של שיטת משפט להכיר בעוולות שהיא עצמה עיגנה, ולתקנן מבפנים. תולדות המשפט המודרני הן, במידה מכרעת, תולדותיהן של קפיצות כאלה: ההכרה בכשרותן המשפטית של נשים, ביטול העבדות, פירוק ההפרדה הגזעית, ההכרה בזכויות מיעוטים. לכל המפנים הללו מאפיין משותף אחד, שקל להחמיצו דווקא משום שבדיעבד הוא נראה מובן מאליו: אף אחד מהם לא היה אקסטרפולציה סטטיסטית של נתוני העבר. נהפוך הוא - כל אחד מהם היה שבירה מכוונת של הדפוס שהנתונים ההיסטוריים שיקפו נאמנה. מערכת חיזוי מושלמת, שהייתה מוזנת בכל הפסיקה האנגלו-אמריקנית עד אמצע המאה התשע-עשרה, הייתה מנבאת בביטחון סטטיסטי גבוה כי העבדות היא מוסד משפטי תקף וכי אישה נשואה נטולת כשרות חוזית עצמאית. הדיוק הניבויי היה מרשים; הצדק - נעדר. מכאן שהמשפט המקובל אינו מתפתח באמצעות שכפול נאמן של עברו אלא באמצעות חריגה ממנו: שופט הסוטה מן ההלכה הפסוקה ומנמק את סטייתו בנימוק חדש, שיעמוד למבחנן של ערכאות ולמבחנם של דורות; דעת מיעוט שנדחתה בשעתה, נשמרה ברשומה ונעשתה כעבור דור הלכה מחייבת; טענה שנשמעה תחילה מופרכת עד שצברה, מהתדיינות להתדיינות, כוח משכנע. אלה אינם מקרי גבול של השיטה אלא דרך המלך של התפתחותה. "המרקם הפתוח" של הכללים, שעליו עמד הארט, אינו אפוא פגם ניסוחי הממתין לתיקון טכני, אלא המרווח שדרכו נכנסת התפתחות נורמטיבית אל תוך שיטה המחויבת ליציבות.⁶⁷

על רקע זה יש להבין את המנגנון שמכוננת ההכרעה החישובית. מודל לומד מתאמן על נתוני עבר - פסיקה, החלטות מעצר, הערכות מסוכנות, תוצאות תיקים. הכרעותיו שלו, משעה שנתקבלו ויושמו, הופכות לנתוני האימון של המחזור הבא. נוצרת לולאת משוב סגורה: דפוסי העבר מכתיבים את הכרעות ההווה, והכרעות ההווה - שנגזרו מאותם דפוסים עצמם - מאשררות אותם כנתוני העתיד. זוהי הנעילה הנורמטיבית (normative lock-in): השקפותיו והטיותיו של העבר חדלות להיות עמדה שאפשר להתווכח עמה, ונעשות פרמטרים המקודדים אל תוך המערכות שמכריעות את העתיד. יודגש כי אין זו הבעיה האפיסטמית שנדונה בחזית השנייה - זיהום הרשומה בתוכן שגוי - אלא בעיה נורמטיבית העומדת על רגליה שלה: גם לולאה שנתוניה מדויקים לחלוטין, שאין בה הזיה אחת ואין בה טעות עובדתית אחת, מנציחה את מה שהיה כמדד יחיד למה שראוי שיהיה. תחקיר "המכונה המוטה" של ProPublica, שנדון בפרק ב.1, הדגים את נקודת המוצא של הדינמיקה הזאת בתחום הערכת המסוכנות: מערכת שלמדה מדפוסי מעצר ואכיפה היסטוריים שיעתקה אותם אל תוך ניקוד הסיכון של נאשמי ההווה, וההווה הזה עתיד להיות נתון האימון של המחר.⁶⁸ אך הנקודה החשובה לענייננו עמוקה מכל הטיה נקודתית, ואינה תלויה בתיקונה: מערכת המאומנת למזער שגיאת חיזוי ממוצעת על נתוני העבר מייחסת, מעצם מבנה יעדה, משקל אפסי לדפוס שטרם נראה: היא מתייחסת אל הסטייה מן הדפוס כאל רעש שיש למזערו - בעוד שבמשפט, כפי שביקשתי להראות, הסטייה מן הדפוס היא בדיוק הערוץ שדרכו השיטה לומדת. חסידי "הסינגולריות המשפטית", איידיד ואלארי, מציגים את השאיפה למשפט שלם, שכל תשובותיו ידועות מראש, כהגשמה מלאה של חזון שלטון החוק;⁶⁹ דומה כי ההפך הוא הנכון - משפט שהושלם הוא משפט שאיבד את היכולת לתקן את עצמו, שכן השלמות הניבויית נקנית בדיוק במחיר סתימת המרווח שהארט זיהה.

רוברואה וברנס כינו את המשטר המסתמן "ממשליות אלגוריתמית": צורת שלטון שאינה פונה עוד אל סובייקטים מנמקים, אלא פועלת על סביבתם - מסווגת, מנבאת ומכוונת התנהגות מבלי לעבור כלל דרך תודעתו של הנשלט.⁷⁰ החידוש בניתוחם אינו בזיהוי הפיקוח אלא בזיהוי מה שאובד: הסובייקט המתנגד - זה שעומד מול הנורמה, כופר בצדקתה ותובע את שינויה - מנוטרל לא באמצעות דיכוי אלא באמצעות עקיפה. אין עוד נורמה גלויה שאפשר להתקומם נגדה; יש רק פלט. הילדברנדט מיקדה תובנה קרובה במושג ערך הניגוד (contestability): כוחו של המשפט המודרני טמון, לשיטתה, דווקא בכך שנורמותיו ניתנות לערעור - שהן מנוסחות, פומביות וחשופות למחלוקת פרשנית, ושהמחלוקת הזאת עצמה היא מנוע התפתחותו של הדין.⁷¹ ודוק: אין לומר שמערכות חישוביות אינן משתנות. הן משתנות בלי הרף - אך בדרך של עדכון גרסה, לא בדרך של תיקון מוסרי. ההבחנה מכרעת. עדכון גרסה נעשה מבחוץ, בידי מי ששולט במודל, על פי שיקוליו, סדרי העדיפויות שלו ולוח הזמנים שלו; תיקון מוסרי אנדוגני נעשה מבפנים - מתוך מאבק ציבורי, ליטיגציה עיקשת, דעות מיעוט המבשילות באיטיות להלכה. הראשון הוא פעולה הנדסית של בעל כוח; השני הוא הישג פוליטי של נתיני השיטה, המופק באמצעות הכלים שהשיטה עצמה מעמידה לרשותם - כתב תביעה, ערעור, דעת מיעוט, מחאה ציבורית המחלחלת אל שיח הפרשנות. ההיסטוריה של התיקונים המוסריים הגדולים היא היסטוריה מן הסוג השני: לא רגולטור נאור שעדכן את הכללים מלמעלה, אלא נפגעי הכללים שכפו את עדכונם מלמטה. ומשעה שהתיקון תלוי כולו במנגנון מן הסוג הראשון, נותרת פתוחה השאלה שאין למשטר החישובי מענה עליה: מי מעדכן את המעדכנים? התשובה הכנה - מי שבידיו המודל, המשאבים והאינטרסים - אינה תשובה שאפשר ליישבה עם רעיון של שלטון עצמי באמצעות חוק.

כאן מתחוור מדוע לפנינו פריצה של תנאי-לגיטימציה, ולא תקלה טכנית הניתנת לכיול. מערכת המציגה את נתוני העבר כ"נתון ניטרלי" אינה משקפת את העבר - היא מקבעת אותו, ומעניקה לו מעמד אפיסטמי שמעולם לא היה לו: מעמד של אובייקטיביות. זוהי שמרנות במסווה של אובייקטיביות, והיא מסוכנת מן השמרנות הגלויה דווקא משום שאינה מציגה את עצמה כעמדה כלל. עם שמרן גלוי אפשר להתווכח; עם "נתון" אי אפשר. והנפגע הראשון מן הקיבוע הזה הוא מי שההיסטוריה המשפטית נכתבה על גבו: המיעוט. שכן כלי המאבק ההיסטורי הגדול של קבוצות מוחלשות מעולם לא היה הנתונים - הנתונים תמיד היו נגדן - אלא התביעה הנורמטיבית שהמשפט יהיה טוב מן החברה שיצרה אותו. יתרה מזו: המערכת החישובית אינה רק מקבעת את העבר, היא גם מסווגת מחדש את מי שמבקש לחרוג ממנו. הטענה החדשנית, זו שאין לה תקדים בנתונים, מופיעה בעיני המודל כחריג סטטיסטי - כרעש, כשגיאה, כמקרה שיש להחזירו אל הממוצע. המתדיין שלפני דור היה נחשב חלוץ של הלכה מתהווה נעשה, בעולם המנובא, אנומליה שהמערכת מתוכננת לסנן. פולר עצמו עמד על כך שהמוסר הפנימי של החוק נטוע במתח שבין מוסר של חובה למוסר של שאיפה - בין הרף שבלעדיו אין חברה מתקיימת לבין השאיפה למצוינות שמעבר לו.⁷² הנעילה הנורמטיבית מכחידה את המתח הזה מניה וביה: מקום שהעבר הוא הפרמטר, השאיפה היא שגיאת חיזוי.

על הטיעון הזה אפשר להשיב תשובה מתבקשת: אם הבעיה היא שהמודלים משכפלים את ערכי האתמול, נאמן אותם על ערכים מתקדמים - נטמיע בהם שוויון, הוגנות וכבוד האדם, ונקבל מערכת טובה מן העבר שממנו למדה. אלא שהתשובה הזאת מחטיאה את מבנה הטיעון. אימון על ערכים "נכונים" אינו מבטל את הנעילה - הוא מחליף נעילה בנעילה: תחת ערכי האתמול ננעלים ערכי המאמנים של היום, שגם הם ייראו בעוד דור מיושנים, ודווקא במקומות שאין בידינו לצפות. הרי כל דור בטוח שערכיו הם קץ ההיסטוריה המוסרית, וכל דור מתבדה; ההבדל הוא שדורות קודמים הורישו ליורשיהם, יחד עם טעויותיהם, גם את מנגנון התיקון. הבעיה אינה אפוא תוכנו של הקיבוע אלא עצם הקיבוע - עצם המרתו של הדין ממערכת המתקנת את עצמה מבפנים, מתוך מאבק, במערכת המתעדכנת מבחוץ בידי מי ששולט בה. ובנקודה זו נחשפת גם הגירת מקור-הסמכות במלוא חריפותה: הסמכות לקבוע מהו ערך ראוי נודדת מן הזירה הציבורית - בתי מחוקקים, ערכאות, מאבקים חברתיים - אל חדרי האימון של מי שמחזיק במודל, ואלה אינם חבים לציבור דין וחשבון.

בכך נסגר מעגלן של שש החזיתות, והחזית האחרונה מוסיפה לחמש קודמותיה ממד שלא היה בהן - ממד הזמן: היא שוללת מן המשפט לא רק תנאי מתנאי הלגיטימציה של ההווה, אלא את עצם היכולת להשיב לעצמו לגיטימציה בעתיד. משפט שאיבד את כושר-התיקון המוסרי שלו אינו רק בקרה חברתית יעילה - הוא בקרה חברתית שאינה יכולה עוד להיעשות דבר אחר. אל המשמעות המצטברת של שש הפריצות הללו אפנה בפרק הבא; אל המרשם הנגזר מהן - רצפת לגיטימציה של תנאים שאסור למסור לאופטימיזציה חישובית - בפרק ה, החותם את גוף המאמר.

פרק ג: האיחוד - הגירת מקור-הסמכות מן האדם אל החישוב

שש חזיתות, תנועה אחת

מי שליווה את הדיון עד כה עלול לסכם אותו כרשימה: שישה איומים, שישה מנגנוני כשל, שש קריאות אזהרה. קריאה כזאת מחמיצה את מה שביקשתי להראות. שש החזיתות אינן צרות מקבילות שהזדמנו במקרה לאותו עשור טכנולוגי; הן שישה גילויים של תנועה אחת, בעלת כיוון אחיד ומבנה חוזר. כדי לראות זאת יש למפות את החזיתות על שלושת המפלסים שדרכם פועל כל סדר משפטי: מפלס התשומה - חומר הגלם העובדתי והנורמטיבי שעליו נשענת ההכרעה; מפלס ההליך - הדרך שבה מופקת הכרעה מתוך אותו חומר; ומפלס הנורמה - טיבו של הכלל עצמו, תחולתו ואופני השתנותו.

במפלס התשומה ניצבת חזית הרשומה המשפטית (ב.2): זיהום התקדים, קריסת המודל והזיוף העמוק תוקפים את האותנטיות האפיסטמית של מה שהמשפט יודע - את היכולת להניח שהתקדים המצוטט אכן נכתב, שהראיה המוצגת אכן אירעה, ושהקורפוס שעליו תתאמן המערכת הבאה אינו תוצר ממוחזר של קודמתה. במפלס ההליך ניצבות שתי חזיתות: ההנמקה (ב.1) והמצפון (ב.3). הקופסה השחורה וההיגיון החייזרי מרוקנים את הנימוק הפומבי מתוכנו, ואילו המושבע והשופט האלגוריתמיים עוקרים מן ההכרעה את התבונה המעשית (פרונסיס) ואת שסתום הביטחון של ביטול מטעם המצפון. ובמפלס הנורמה מתייצבות שלוש החזיתות האחרונות: הדין הפרסונלי מפרק את הכלליות ואת דמות האדם הסביר (ב.4); המשפט הנוזלי והמשפט החישובי מפרקים את הפומביות, הבהירות והקביעות (ב.5); והנעילה הנורמטיבית חוסמת את כושר-התיקון המוסרי (ב.6).

המיפוי חושף את המכנה המשותף. בכל מפלס מתרחש אותו מהלך עצמו: מקור-התוקף נודד מן האנושי אל החישובי. במפלס התשומה, הרשומה חדלה להיות עדות אנושית בעלת שרשרת-מסירה נרטיבית והופכת לפלט סטטיסטי שאמינותו נמדדת בציון ולא במקור. במפלס ההליך, ההכרעה חדלה להיות מעשה של שיח מנומק ואחריות אישית והופכת למיטוב (optimization) של פונקציית מטרה. ובמפלס הנורמה, הכלל חדל להיות הכרזה פומבית המנוסחת בשפה אנושית והופך לפרמטר מתכוונן שערכו נגזר ממתאמים (correlations). נרטיב, מצפון, שיח מנומק ואחריות אישית - מזה; מתאם, מיטוב וציון - מזה. זוהי הגירת מקור-הסמכות, והיא ההופכת את שש החזיתות משורת תקלות הנדסיות לשינוי-משטר במקורות הלגיטימציה. ובאשר ללשון: המסגרת שהונחה בפרק א היא לשון-סף - הפרה שיטתית של תנאי מכונן אינה מולידה משפט גרוע יותר אלא דבר-מה אחר - ואולם ההמרה עצמה אינה מאורע חד אלא תהליך המתקדם במידות, חזית אחר חזית. מכאן הלשון הכפולה שבה נוקט המאמר: לשון מידה לתיאור התנועה, ולשון סף לתיאור נקודת הקצה שאליה היא מוליכה.

מן ההגינות להקדים ולהודות בהבדלים, פן יישמע האיחוד כהשטחה. החזיתות שנסקרו אינן עשויות מעור אחד: מסווג טקסט המנבא פסיקה, כלי אקטוארי דוגמת COMPAS, מודל גנרטיבי המחולל אסמכתאות, "כללים כקוד" דטרמיניסטיים - ודווקא שקופים לחלוטין, היפוכה של הקופסה השחורה - ופלטפורמת צדק מבוזר שמושבעיה בני-אדם, שהאיום שבה הוא הפרטה ויציאה מריבונות ולא החלפת אדם בחישוב. אלה נבדלים זה מזה על צירי השקיפות, הקשיחות והסטוכסטיות, ואין לטעון שכולם "אותו דבר". הטענה כאן צנועה יותר, ודווקא משום כך חזקה יותר: הם חולקים דמיון-משפחתי סביב ציר אחד - בכל אחד מהם נודד רכיב ממקורות הסמכות (התשומה, ההליך או הנורמה) מן האנושי אל החישובי. אין זו זהות אלא כיוון; וכיוון החוזר על עצמו בשש חזיתות מובחנות - הפרושות על שלושת מפלסי המערכת ועל טכנולוגיות שונות זו מזו, אף שיש מהן החולקות מנגנון - הוא בדיוק מה שראוי לקרוא לו מגמה, ולא צירוף מקרים.

אבקש לתת לנקודת הקצה של התנועה שם: סמכות סינתטית (synthetic authority).⁷³ כל עוד רק אחד ממפלסי המערכת היה ממוכן, נותר תמיד אדם שאליו אפשר היה להפנות את השאלה "מדוע": שופט שהסתמך על תחזית עדיין חב הנמקה; פקיד שיישם כלל עדיין נשא באחריותו; ואפילו מחוקק שנשען על נתונים פגומים עמד, בסופו של יום, לביקורת ציבורית. אך כאשר גם הרשומה סינתטית וגם המכריע סינתטי, המעגל נסגר ואין עוד כתובת: התשומה מפנה אל המודל שייצר אותה, המודל מפנה אל הקורפוס שעליו התאמן, והקורפוס - בעידן של זיהום התקדים - מפנה בחזרה אל מודלים קודמים. דומה כי כאן טמונה הפגיעה העמוקה מכולן, שכן המסירוּת (answerability) שנדונה בפרק ב.2 - היכולת לדרוש הצדקה מן הסמכות ולקבל ממנה תשובה - אינה קישוט של הסמכות המשפטית אלא ליבתה. הברמאס העמיד את הלגיטימציה של המשפט המודרני כולו על יכולתן של נורמות לעמוד במבחן ההצדקה בשיח בין הכפופים להן - מבחן שמניח, כתנאי מוקדם, שיש מי שמצדיק ויש בפני מי.⁷⁴ רז לימד כי המשפט טוען, מעצם טיבו, לסמכות לגיטימית; וטענה כזו מחייבת שיהיה מי שטוען אותה ומי שמסוגל לעמוד מאחוריה.⁷⁵ וולדרון הוסיף כי שלטון החוק אינו מערכת כללים בלבד אלא פרקטיקה טיעונית: מוסדות שבהם הכפוף לדין רשאי להתייצב, להקשות ולזכות במענה מנומק.⁷⁶ סמכות שאין לה פנים, שאין ממנה תשובה ושאין מאחוריה נושא-באחריות, אינה סמכות במובן שהמסורת הזאת מכירה; היא כוח.

פרדוקס היעילות

על רקע המיפוי מתחוור הפרדוקס העומד בלב המאמר: ככל שהמערכת החישובית משרתת את המשפט טוב יותר - מהר יותר, זול יותר, עקבי יותר - כך מתרוקנת הלגיטימציה מהר יותר. אין זו אירוניה מקרית אלא תוצאה מבנית, וניתן לשחזר את המנגנון המחולל אותה בשלושה צעדים.

הצעד הראשון הוא לחץ העומס. דומה כי ככל שגדל הפער בין הביקוש להכרעה שיפוטית ובין ההיצע האנושי שלה, כן מתעצם לחץ האימוץ; ובמערכות משפט רבות פער זה - המתבטא בפיגור תיקים מצטבר - הוא נתון-המוצא המעשי של כל דיון על התייעלות.⁷⁷ הטכנולוגיה אינה נכנסת אל המשפט מתוך תאוריה של צדק; היא נכנסת מתוך מצוקת תפעול - דרך תקציבים, מדדי תפוקה ודוחות פיגור. ולכן קריטריון הברירה השליט בפועל הוא יעילות: מה שמקצר את התור יאומץ, מה שמאריך אותו יידחה. כמעט איש בשרשרת ההחלטה אינו נשאל מה עולה בגורל הלגיטימציה; ומסמכי האתיקה הקיימים - דוגמת המגילה האתית האירופית לשימוש בבינה מלאכותית במערכות שיפוט⁷⁸ - נותרים בגדר המלצה, שאינה מחייבת את שיקולי הרכש והתקציב.

הצעד השני הוא ההבחנה שכל תנאי-לגיטימציה הוא, מנקודת מבט הנדסית, חיכוך. ההנמקה "מעכבת"; המושבע "יקר"; הפומביות "איטית"; הקביעות "מונעת מיטוב"; הכלליות "מוותרת על דיוק". ויודגש: אין הטענה שכל הסרת חיכוך פוגעת בלגיטימציה - יש רווחי יעילות כשרים לחלוטין, ופרק ה יבחין בהם מן הפסולים; הטענה נסבה על דפוס הברירה. מקום שהיעילות היא קריטריון הברירה השליט, אין במערכת מנגנון היודע לעצור דווקא לפני החיכוכים המכוננים - ואלה יוסרו עם השאר. פולר עמד על כך שהמוסר הפנימי של החוק אינו ניתן בחינם: שמונת עקרונותיו הם עלויות שהריבון נדרש לשאת בהן כדי שמפעלו יהיה משפט ולא שליטה גרידא.⁷⁹ מכאן שכל רווח יעילות שהמערכת החישובית מציעה מושג, כמעט בהגדרה, על-ידי דילוג על אחד התנאים הללו: ההמלצה האלגוריתמית חוסכת בדיוק את זמן ההנמקה; הדין הפרסונלי קונה את דיוקו בדיוק במחיר הכלליות; העדכון הרציף קונה את התאמתו בדיוק במחיר הקביעות. היעילות אינה מושגת לצד תנאי-הלגיטימציה אלא מתוכם - הם חומר הבעירה שלה.

הצעד השלישי נובע משני קודמיו: נוצרת דינמיקת ברירה מוסדית המפלה באופן שיטתי לרעת מה שמעניק לגיטימציה. אין צורך להניח קונספירציה, ואף לא כוונה רעה אחת. כל החלטת אימוץ מקומית - של הנהלת בתי משפט, של משרד ממשלתי, של פירמה - סבירה בעיני מקבליה, ולעיתים אף מתחייבת מחובתם למתדיינים הממתינים. אך כאשר סביבת הברירה בוררת לפי יעילות בלבד, וכאשר תנאי-הלגיטימציה הם בדיוק המרכיבים הבלתי-יעילים, המערכות ששורדות ומתרבות הן אלה המדלגות על החיכוך. והחיכוך, כאמור, הוא-הוא הלגיטימציה. מכאן שאין טעם לחפש אשם: התהליך מתקדם גם כאשר כל משתתפיו הגונים, ודווקא משום כך הוא עמיד בפני ביקורת נקודתית. זהו פרדוקס היעילות במלואו: המערכת המשפטית אינה מסתכנת בכישלון חרף הצלחתה הטכנולוגית - היא מסתכנת בכישלון באמצעותה.

ממשפט מחנך לניהול סיכונים

התנועה המתוארת אינה משנה רק את אופן פעולתו של המשפט; היא משנה את מה שהמשפט הוא. המסורת שהמאמר נשען עליה ראתה במשפט מוסד בעל ממד חינוכי-פילוסופי. רולס תיאר את החברה הפוליטית כמפעל הוגן של שיתוף-פעולה בין אזרחים חופשיים ושווים, תבוניים וסבירים, ואת המשפט כשפה הציבורית שבה הם מצדיקים זה בפני זה את תנאי שיתוף-הפעולה.⁸⁰ במסורת זו הנורמה פונה אל האזרח כאל סוכן מוסרי: היא מכריזה כיצד ראוי לחיות, מזמינה הפנמה ומחלוקת, ומניחה כתנאי-פעולה את יכולתו להבין, לשקול ולציית מתוך טעם. גם כשהמשפט כופה, הוא כופה בשם הצדקה שאפשר לדחות, לבקר או לאמץ; עצם הפנייה מכבדת את הנמען כמי שמסוגל לשפוט. הילדברנדט הראתה כי הדפוס הזה אינו מובן מאליו אלא הישג היסטורי, הקשור בטכנולוגיית הכתב והדפוס עצמה: משפט הטקסט מכונן סובייקט המסוגל לקרוא את הנורמה, לצפות את יישומה ולהתנגד לה, ואילו משפט המוטמע בסביבה חכמה - המווסת התנהגות בזמן אמת בלא שנוסח מעולם כטקסט הפונה אל תודעה - מאבד בדיוק את היכולת המכוננת הזאת.⁸¹

אל מול עמדה זו ניצבת עמדת-נגד שראוי להציגה בהגינות. איידיד ואלארי רואים באופק החישובי הבטחה: "הסינגולריות המשפטית" - מצב שבו הדין שלם, נגיש וניתן לחיזוי מלא בכל סיטואציה נתונה - תחסל את אי-הוודאות המשפטית, תוזיל את הגישה לצדק ותצמצם שרירות אנושית.⁸² אין להקל בכך ראש: אי-ודאות משפטית היא נטל רגרסיבי, הפוגע דווקא במי שאינו יכול לממן ייעוץ משפטי, והבטחת הוודאות היא הבטחה שוויונית באופייה. ואולם דומה כי גם בהתממשות מלאה ומיטיבה של החזון, השאלה המכרעת נותרת ללא מענה. משפט ודאי לחלוטין הוא משפט שיודעים מה הוא יעשה; אין הוא עדיין משפט שיודעים מדוע מוצדק שיעשה זאת. לגיטימי בעיני מי, ומכוח מה? הוודאות עונה על שאלת הצפיוּת; היא אינה נוגעת כלל בשאלת החובה. ההבטחה החישובית מציעה, אם כן, את המקסימום של מה שהמשפט עושה - ואת המינימום של מה שהמשפט אומר.

וכאן מתבהר טיבו של התוצר המצרפי. משפט שהרשומה שלו סינתטית, שהנמקתו אטומה, שכלליו פרסונליים ונוזליים ושכושר-תיקונו נעול - אינו חדל לתפקד. הוא מתפקד היטב, אולי טוב מתמיד: הוא מכוון התנהגות, מקצה סיכונים, מייצר צייתנות. אלא שהוא עושה זאת כמערך ויסות של מיקרו-תמריצים - בקרה חברתית יעילה - ולא כמוסד המדבר אל אזרחיו בשפת הטעמים. האזרח חדל להיות נמען של הצדקה והופך לאובייקט של ניהול סיכונים; השאלה "כיצד ראוי לחיות" מפנה את מקומה לשאלה "מה צפוי לקרות אם". זהו התוצר המצרפי של שש החזיתות - התרוקנות הלגיטימציה בד בבד עם שיא היעילות, משפט מקסימלי ביעילותו ומינימלי בלגיטימיותו. ואולם אם זו אכן נקודת הקצה של התנועה, נותרת פתוחה השאלה אם יש להשלים עמה - ובהתנגדויות הטוענות, כל אחת בדרכה, שאין מה לאבד, שהאבדן כדאי או שהוא בר-תיקון הנדסי, פותח הפרק הבא.

פרק ד: התנגדויות ותשובות

הטיעון שנפרש עד כה - שש חזיתות שבכל אחת מהן מפרקת המערכת החישובית תנאי-לגיטימציה קלאסי - מזמין התנגדויות כבדות-משקל, ומן ההגינות האינטלקטואלית מתחייב להשיב עליהן בגרסתן החזקה ביותר, לא בגרסה הנוחה להפרכה. שלוש התנגדויות עיקריות עולות כנגדו, וכל אחת מהן נטועה במסורת עיונית רצינית: שהמשפט האנושי עצמו מוטה ובלתי-שקוף, ולכן הביקורת מודדת את המכונה בסטנדרט שהאדם מעולם לא עמד בו; שהיעילות איננה אויבתו של הצדק אלא צורה שלו, ולכן ההגנה על "תנאי הלגיטימציה" היא בפועל הגנה על פריווילגיה; ושכל הכשלים שנמנו אינם אלא בעיות הנדסיות חולפות, שאין לגזור מהן מסקנות פילוסופיות. אבקש להראות כי כל אחת מהן, גם במיטבה, אינה מערערת את התזה - ולמעשה, בחינתן המדוקדקת מחדדת את מבנה הטיעון כולו וחושפת את ההנחה המשותפת המונחת בבסיס שלושתן.

גם המשפט האנושי מוטה

ההתנגדות הראשונה היא החזקה מכולן, ומן הראוי להציגה במלוא כובד משקלה. הריאליזם המשפטי לימד זה מכבר שההכרעה השיפוטית אינה גזירה לוגית טהורה מכללים נתונים, אלא מעשה אנושי הרווי בהעדפות, באינטואיציות ובנסיבות שאינן מופיעות בפסק הדין; ההנמקה הפומבית עצמה, על פי קריאה ריאליסטית, אינה אלא רציונליזציה בדיעבד של הכרעה שהתקבלה בדרכים אחרות. אם כך, המוח השיפוטי הוא הקופסה השחורה המקורית - אטום גם לביקורת וגם לבעליו. ספרות אמפירית ענפה תיעדה את השפעתם של גורמים חיצוניים על ההכרעה השיפוטית; כך, למשל, נמצא כי בוועדות שחרורים שיעור ההחלטות המיטיבות נשחק בהתמדה לאורך המשמרת ומתאושש לאחר הפסקות אוכל - עדות לכך שאף הכרעות שחרור מושפעות מגורמים שאין להם דבר עם גופו של עניין⁸³ - ואפילו תחקיר ProPublica, שהפך לאסמכתה המרכזית נגד כלי הערכת המסוכנוּת, נשען על נתוני מעצר ואכיפה היסטוריים המשקפים הטיה אנושית ומערכתית מובנית.⁸⁴ מכאן קצרה הדרך לטענה חדה: אם ההטיה בלתי-נמנעת ממילא, מוטב אלגוריתם מוטה-אך-עקבי משופט מוטה-וגחמני. ולטענה זו גב אמפירי של ממש: קליינברג ועמיתיו הראו, בסימולציית מדיניות, כי כלל שחרור אלגוריתמי היה יכול להשיג בהחלטות מעצר הפחתה ניכרת בפשיעה בלא הגדלת שיעור המעצרים, או להפך;⁸⁵ וכהנמן, סיבוני וסנסטיין תיעדו לצד ההטיה גם "רעש" - שונות אקראית בין שופטים ובתוכם - שאלגוריתמים מבטיחים לצמצם.⁸⁶ ובספרות העברית אף הוצע, ברוח דומה, לפצל את המשטר: דיני ההפליה המסורתיים להחלטות אדם, ומסגרת ממוקדת-תוצאות להחלטות אלגוריתמיות.⁸⁷ העקביות עצמה היא ערך יסוד של שלטון החוק, והכרעה כפופת-כללים עדיפה, ככלל, על שיקול-דעת פרוע דווקא משום שהיא צפויה, אחידה וניתנת לבחינה.

התשובה מחייבת שלושה רבדים. ראשית, ההבדל בין ההטיה האנושית להטיה האלגוריתמית הוא הבדל של סוג, לא של דרגה. ההטיה האנושית, יהא מקורה אשר יהא, פועלת בתוך פרקטיקת תיקון פומבית: פסק הדין המנומק חושף את שיקוליו לערעור, לדעת מיעוט, לביקורת אקדמית ולתיקון חקיקתי. גם אם הנימוקים הם רציונליזציה - כטענת הריאליסטים - הרי משעה שנכתבו, הם הופכים לאמת-המידה הפומבית שהשיטה אוחזת בה כלפי כותבם: ערכאת הערעור בוחנת אותם, דעת המיעוט חולקת עליהם, והמלומדים מפרקים אותם. עצם חובת ההנמקה הופכת את ההטיה לבת-גילוי ולבת-תקיפה. ההטיה האלגוריתמית, לעומת זאת, כלואה בקופסה השחורה, ובמקרים המתועדים אף זוכה להגנה משפטית פוזיטיבית: בפרשת לומיס נותר מנגנון הניקוד חסוי כסוד מסחרי של החברה המפתחת, ובית המשפט דחה את טענת ההליך ההוגן של הנאשם - שלא יכול היה לבחון את דרך חישוב הציון - בקובעו כי די בכך שנתוני הקלט ניתנים לאימות ושהציון אינו הגורם המכריע בגזר הדין.⁸⁸ פרקטיקת התיקון לא נכשלה שם - היא נחסמה על הסף, מטעמים קנייניים. והאטימות הזו איננה תקלה שולית של מערכת זו או אחרת; היא מאפיין מבני של השוק המייצר את המערכות הללו ושל האינטרסים המסחריים המקיפים אותן.⁸⁹

שנית, קנה-המידה. שופט מוטה מעוות את התיקים הבאים לפניו - עוול ממשי, אך תחום ומבוזר. ההטרוגניות של מערכת שיפוט אנושית, על שלל מותביה ומחוזותיה, מאפשרת השוואה החושפת את החריג ומזמנת את תיקונו: השופט הגחמן בולט על רקע עמיתיו. מודל מוטה שנפרס מערכתית משכפל את עיוותו על פני כל התיקים בבת אחת ובאחידות מושלמת. העקביות שההתנגדות מתהדרת בה היא אפוא חרב פיפיות: היא בדיוק המנגנון ההופך הטיה מקומית לעיוות כלל-מערכתי, ובה בעת היא מוחקת את השונוּת שבאמצעותה ניתן היה לזהות את העיוות מלכתחילה. אלגוריתם מוטה-אך-עקבי אינו הקטנת הנזק; הוא הכללתו.

שלישית - וזה העיקר - ההתנגדות מחליפה נושא. המאמר אינו טוען שהמשפט האנושי לגיטימי בפועל, תמיד ובכל מקום; טענה כזאת הייתה נאיבית, וההיסטוריה השיפוטית מפריכה אותה בכל דור. הטענה היא שהמשפט האנושי בר-לגיטימציה עקרונית: כשליו הם כשלים בתוך מסגרת שתנאי-האפשרות שלה - נימוק פומבי, כלליות, כושר-תיקון מוסרי - נותרים על כנם, ולכן הם ניתנים לתיקון מבפנים, בכליה של המסגרת עצמה. ההסדר האלגוריתמי אינו מוסיף כשל נוסף למסגרת; הוא פורץ את תנאי-האפשרות עצמם. זהו, בסופו של חשבון, לקחו של פולר: המוסר הפנימי של החוק אינו מבטיח תוצאות צודקות, אלא מכונן את התנאים שבלעדיהם אין עוד טעם לדבר על חוק כלל.⁹⁰ פער בין הנורמה ליישומה הוא כשל בר-תיקון; פירוק הנורמה הוא שינוי-משטר. ההתנגדות הראשונה מוכיחה, לכל היותר, שיש למשפט האנושי מה לתקן - לא שמותר למסור את מנגנון התיקון עצמו.

עד כה נדונה המסורת הריאליסטית בגרסתה ה"רכה" - זו הטוענת שההכרעה רוויה הטיות ושההנמקה אינה אלא רציונליזציה בדיעבד. אך למסורת הריאליסטית גרסה חזקה יותר, שקדמה לה והזינה אותה, והיא כשלעצמה טענה על מהות המשפט ולא על חולשותיו: תורת-הניבוי של הולמס, שלפיה "המשפט" אינו אלא "נבואות בדבר מה שיעשו בתי המשפט בפועל", כפי שהם נראים בעיני "האדם הרע" המבקש לדעת מה צפוי לו.⁹¹ אם זו מהות המשפט, כי אז האלגוריתם המנבא את פסיקת בית הדין אינו מפרק את המשפט אלא מגשים אותו - הוא עושה, מדויק יותר, את מה שהמשפט תמיד היה. תשובה זו נחרצת, אך היא מכרסמת בעצמה בשני מקומות. ראשית, הניבוי שבו נפתח מאמר זה אינו מן הסוג שהולמס דיבר עליו: "האדם הרע" מבקש נבואה מראש, בעוד האלגוריתם שדיווח על שיעור ניבוי גבוה הזין את עצמו בתיאור העובדות כפי שנוסח בפסקי הדין עצמם, לאחר ההכרעה - כלומר לא ניבא את ההכרעה אלא שחזר את צילהּ מתוך מסגורה הרטרוספקטיבי של הערכאה. אין זו הגשמת הנבואה אלא בבואתה. שנית, ובעומק, תורת-הניבוי היא בדיוק אותה "נקודת מבט חיצונית" שהראה הארט כי אינה תופסת את המשפט: מי שרואה בכללים אך בסיס לניבוי סנקציות מחמיץ את נקודת המבט הפנימית - קבלתם כטעמים לפעולה וכאמות-מידה לביקורת.⁹² הריאליזם הניבויי, במילים אחרות, הוא-הוא ההנחה שעוד תידון בסיכומו של פרק זה - שהלגיטימציה היא פונקציה של התוצר - בלבושה התאורטי המפורש; והמאמר כולו הוא הטיעון כנגדה.

יעילות היא צדק

ההתנגדות השנייה מוסרית לא פחות מן התזה שהיא תוקפת, ואולי אף יותר ממנה. עינוי דין הוא עוול, לא אי-נוחות מנהלתית: הליכים הנמשכים שנים שוחקים ראיות, מרוששים בעלי דין, מקפיאים חיים שלמים, ולעיתים מרוקנים את הזכייה מתוכנה עוד בטרם ניתנה. יתרה מזו, מערכת איטית ויקרה היא מערכת רגרסיבית - מיליוני בני אדם מודרים מן המשפט לא משום שעניינם חסר ערך, אלא משום שאין ידם משגת עורך דין ושנות המתנה; עבורם, "תנאי הלגיטימציה" הם מותרות של מי שההליך נגיש לו ממילא. על רקע זה, הנגשה אלגוריתמית של ידע משפטי והכרעה מהירה, זולה ואחידה אינן "אופטימיזציה" גרידא אלא דמוקרטיזציה של הצדק; זו, בקירוב, טענתם של איידיד ואלארי, הרואים בסינגולריות המשפטית לא איום על שלטון החוק אלא הגשמה שוויונית שלו - משפט שסוף-סוף זמין לכול, מיידי לכול ואחיד לכול.⁹³

התשובה מתחילה בהבחנה שההתנגדות מטשטשת: בין נגישות ההליך לבין תנאי-הלגיטימציה של ההליך. קיצור תורים, אוטומציה של מסמכים, תרגום, ניתוב תיקים והנגשת מידע משפטי - כל אלה ראויים לקידום נמרץ, גם טכנולוגי, ואיש אינו נדרש להתנגד להם; אדרבה, סירוב לאמצם הוא עצמו עוול. אך ההתנגדות שואבת את כוחה הרטורי מן הרובד הראשון ומסיקה ממנו מסקנה השייכת לרובד השני: מכך שראוי שיותר בני אדם יגיעו אל ההכרעה אין נובע שראוי למסור את ההכרעה עצמה למכונה. אפשר לקצר תורים בלי למסור את ההכרעה; אפשר להנגיש את שערי בית המשפט בלי להחליף את מה שמתרחש מאחוריהם. הערבוב בין השניים אינו תוצאה הכרחית של הטכנולוגיה אלא בחירה מוסדית - שאותה בדיוק המאמר מבקש לחשוף ולסרב לה. ודוק: הביקורת כאן איננה על ההנגשה אלא על השימוש בה כסוס טרויאני, שבו מצוקת הנגישות האמיתית משמשת הצדקה להעברת מוקד ההכרעה עצמו.

שנית, טענת הדיוק - שהמכונה "צודקת" יותר - מניחה אמת-מידה חיצונית ונתונה, שהמכונה מתקרבת אליה יותר משמתקרב אליה השופט. אלא שההנחה הזו מחמיצה דבר-מה יסודי באופיו של המשפט: המשפט אינו רק מגלה תשובות הקיימות מחוצה לו - הוא מכונן אותן דרך ההליך. "התשובה הנכונה" במשפט היא במידה רבה תוצר הפרקטיקה הטיעונית - הדיון האדוורסרי, הפרשנות, מתן הטעמים וההשגה עליהם - ולא קלט חיצוני שלה; זו תובנת היסוד של תפיסת הלגיטימציה הדיסקורסיבית של הברמאס, שלפיה תוקפן של נורמות נובע מהליך ההצדקה ההדדי ולא ממדד חיצוני של דיוק.⁹⁴ מכונה החוזה "מה יפסוק בית המשפט" מודדת את עברה של הפרקטיקה; היא אינה יכולה לבוא במקום המעשה המכונן שבו הפרקטיקה מייצרת, בכל דור מחדש, את תשובותיה. לדבר על "דיוק" ההכרעה המשפטית כעל דיוקה של תחזית מזג אוויר משמעו להחליף את מושא המדידה.

שלישית, גם במונחיה שלה מתעלמת ההתנגדות משאלת החלוקה של רווחי היעילות. בפועל, היתרונות החישוביים אינם מתפזרים שווה בשווה: תאגידים חמושי-אלגוריתמים - כלי חיזוי ליטיגציה, פרופיילינג של שופטים, ניסוח אוטומטי בהיקף תעשייתי - ניצבים מול אזרח חסר-מגן, והפער האסטרטגי ביניהם גדל דווקא ככל שהטכנולוגיה משתכללת.⁹⁵ היעילות, כשהיא נמסרת לשוק, אינה ניטרלית; היא מוטה מבנית לטובת מי שמחזיק בתשתית. הדמוקרטיזציה שההתנגדות מבטיחה עלולה אפוא להתגלגל, בהיעדר רצפת לגיטימציה, לצורה משוכללת של אותו אי-שוויון עצמו שאותו התיימרה לרפא - הפעם תוך הקניית מראית עין של אובייקטיביות.

וראוי להעמיד את ההתנגדות בגרסתה החזקה ביותר, החורגת מטענת-הנגישות אל תורת-תכלית שלמה. אסכולת "המשפט והכלכלה" תטען כי כל הדיבור על "תנאי לגיטימציה" מחמיץ את תכליתו של המשפט: פוזנר - למצער במשנתו המוקדמת - ראה במקסום העושר החברתי את העיקרון המארגן של המשפט המקובל, וקפלאו ושייבל טענו כי מדיניות משפטית ראויה להישקל אך ורק לפי רווחתם של המושפעים ממנה, וכי הענקת משקל עצמאי לעקרונות הגינות שאינם מבוססי-רווחה - ובכללם עקרונות צורניים כדוגמת "אילוץ-הצד" שאציע בפרק הבא - עלולה להוביל למדיניות המרעה את מצבם של כולם, לרבות מי שהיא מתיימרת להגן עליו.⁹⁶ אם תכלית המשפט היא רווחה, אין תנאי-הלגיטימציה אלא אמצעים אינסטרומנטליים להשגתה, והחלפתם באמצעי יעיל יותר היא שיפור ולא שינוי-משטר. ואולם טענה זו מניחה את המבוקש כקודמותיה, ומטעם עמוק יותר. ראשית, היא מערבבת שני מישורים: הרווחנות היא תורה בדבר מהי מדיניות טובה - כיצד ראוי לחלק סיכונים ומשאבים - ואילו השאלה שבמרכז מאמר זה מוקדמת לה: מהו מקור חובת-הציות, ומדוע מוצדק לכפות הכרעה על מי שהיא חלה עליו. גם המשוכנע שהמדיניות הראויה נמדדת ברווחה נדרש עדיין להראות כיצד הכרעה קונקרטית קונה סמכות על נמעניה - שאלה שאין מדד-רווחה עונה עליה. שנית, ההנחה שניתן "לשקול" תנאי-לגיטימציה מול רווחה מניחה עבירוּת (commensurability) שאבקש לדחות בפרק הבא: אין מטבע משותף שבו נשקלות רווחה ולגיטימציה זו כנגד זו, ואין שיעור של רווחה הקונה ויתור על התנאי ההופך בקרה יעילה למשפט. הרווחנות, במונחי המאמר, אינה מפריכה את ההבחנה בין האפקטיבי ללגיטימי - היא בוחרת להתעלם ממנה.

אלה בעיות הנדסיות

ההתנגדות השלישית סבלנית ומפוכחת יותר משתי קודמותיה. לשיטתה, כל הכשלים שנמנו במאמר הם תמונת-מצב של טכנולוגיה צעירה, לא מגבלות עקרוניות: מחקר הבינה המלאכותית המוסברת (Explainable AI) מפיק הסברים הולכים ומשתכללים לפעולת המודלים, והקופסה השחורה הולכת ונפתחת; תקני מקור קריפטוגרפיים לראיות דיגיטליות יחסנו את הרשומה המשפטית מפני הזיוף העמוק; אצירה קפדנית של נתוני אימון תבלום את זיהום התקדים ואת קריסת המודל; ומחקר היישור הערכי מתמודד חזיתית עם דאגת המצפון וההטיה. להסיק מסקנות פילוסופיות ממגבלות הנדסיות של רגע נתון, כך ההתנגדות, משמעו לחזור על שגיאתו של כל מי שהכריז אי-פעם ש"מכונה לעולם לא תוכל".

התשובה הראשונה היא שבבסיס ההתנגדות מונחת טעות קטגוריה, החסינה מפני כל התקדמות הנדסית. גם הסבר מושלם - ייחוס מדויק של כל משקל, שחזור מלא של נתיב החישוב - הוא תיאור מנגנון, ולא הצדקה בשיח. חובת ההנמקה אינה דרישה לעקיבוּת סיבתית אלא לנימוק פומבי: לקיומו של נושא-הכרעה העומד מאחורי טעמיו, נכון להגן עליהם מול השגות, ובר-מסירוּת - כלומר, מי שניתן לדרוש ממנו דין וחשבון ולזקוף לחובתו את שגיאותיו. את העמידה הזאת אין למסור במיקור-חוץ, ואין היא נעשית אפשרית יותר ככל שההסבר משתכלל: ההיגיון החייזרי אינו נעשה אנושי משום שתורגם לתרשים. יתרה מזו, מערכת שאין לה מה להפסיד אינה יכולה לשאת באחריות במובן שהמשפט דורש: אי אפשר להאשים אותה, לבייש אותה, להעבירה מכהונתה או לדרוש ממנה חשבון נפש - ומי שאינו יכול לשאת באחריות להכרעה אינו יכול, במובן העמוק, להכריע. ההסבר משיב על שאלת ה"כיצד"; הלגיטימציה נשאלת על ה"מדוע מוצדק" - ובין שתי השאלות אין גשר הנדסי, משוכלל ככל שיהיה.

שנית, תשתיות האימות מעתיקות את האמון במקום לבססו. תקן מקור קריפטוגרפי מחייב רשויות מאשרות, מחזיקי מפתחות וגופי תקינה, ושאלת האותנטיות האפיסטמית נודדת קומה אחת למעלה: מי מאשר את המאשרים? האמון ברשומה המשפטית - שהיה עד כה מבוזר בין עדים, שופטים ופרוטוקולים - הופך לאמון בשרשרת אימות טכנית שמעטים מבינים אותה, ומעטים עוד יותר מוסמכים לבקרה. אין בכך כדי לפסול את התקנים; יש בכך כדי להזכיר שהם מזיזים את בעיית האמון, ואינם פותרים אותה.

ושלישית - ויתור מנומק, שראוי לאומרו במפורש: חלק מן הכשלים אכן ניתן למיתון טכני, והמיתון הזה רצוי. כלי הסבר משובחים, תקני מקור לראיות, אצירת נתוני אימון - כל אלה מפחיתים נזק ממשי, ומקומם שמור ברצפת הלגיטימציה שתוצע בפרק הבא. ההודאה הזאת חשובה, שכן הטיעון אינו לודיטי ואינו מבקש להשיב את הגלגל אחורנית; הוא מבקש להבחין. וההבחנה שעליה הוא עומד צנועה ממה שנדמה, אך נחרצת: טכנולוגיה יכולה לשרת את תנאי-הלגיטימציה - לסייע לשופט לבחון, לחשוף, להשוות ולנמק טוב יותר; היא אינה יכולה להחליף אותם. כלי המסייע לנושא-ההכרעה שונה במהותו - לא במידתו - מכלי שההכרעה נמסרה לו.

ויש להבחין הבחן היטב בין שני מנגנוני מיתון המוצגים לרוב כמנגנון אחד. עיגון-באחזור (retrieval-augmentation) - הכוונת המודל לשאוב את תשובתו ממאגר במקום לחוללה מזיכרונו - מטפל בחוליה הראשונה של זיהום התקדים, ההמצאה יש-מאין; אך אין בו כדי לחסן מפני החוליות המאוחרות. מודל המאחזר מקורפוס שכבר חלחלו אליו תוצרים סינתטיים ישלוף אותם בביטחון מוגבר, בעטיפת "עיגון" המקנה להם מראית-אמת; והנתונים שהובאו לעיל מלמדים כי אף הכלים המעוגנים בפועל אינם נקיים מבדיה. המיתון ההנדסי היעיל ביותר פועל, אם כן, דווקא במקום הפחות מסוכן - ההזיה הבודדת - ונעצר בפני המנגנון המסוכן ממנו: הזיהום המצטבר של אותה רשומה שמולה אמורים לאמת.

במבט אחרון מתברר ששלוש ההתנגדויות, על כל השוני שביניהן, חולקות הנחה אחת: שהלגיטימציה היא פונקציה של התוצר.⁹⁷ אם התוצר עקבי יותר מזה של השופט המוטה, נגיש ומדויק יותר מזה של ההליך האיטי, או מוסבר ובר-אימות יותר מזה של הדור הטכנולוגי הקודם - שאלת הלגיטימציה נסגרת, לשיטתן, מאליה. אך זו בדיוק ההנחה שהמאמר כולו חולק עליה: הלגיטימציה אינה תכונה של הפלט אלא של הפרקטיקה - של התנאים שבהם בני אדם נותנים את הדין, מנמקים אותו בפומבי ונושאים באחריותו. דחיית הנחת-התוצר אינה, אפוא, תשובה נוספת לצד התשובות שנמנו; היא-היא התזה: מה שמוצע לנו כשדרוג אינסטרומנטלי של המשפט הוא שינוי-משטר במקורות הלגיטימציה שלו, ומכאן הצורך ברצפת לגיטימציה שתשורטט בפרק הבא.

פרק ה: רצפת הלגיטימציה - מרשם

העיקרון

הפרקים הקודמים אבחנו; פרק זה מבקש לרשום מרשם. התגובה המתבקשת לאבחנה שנפרשה עד כה היא תגובת האיזון: אם המערכות החישוביות מניבות רווחי יעילות של ממש, ובצדם עלויות של לגיטימציה, ישוקללו אלה מול אלה, תחום אחר תחום, עד שתימצא נקודת שיווי המשקל הראויה. אבקש לטעון כי המסגור הזה עצמו הוא הכשל. שקילה מניחה עבירוּת - אותה הנחה שסומנה כבר בסוף הפרק הקודם: היא מניחה שתנאי הלגיטימציה הם עלויות המונחות על אותם מאזניים שעליהם מונחת היעילות, ושבמחיר מתאים ניתן למכור אותם. אלא שששת התנאים שנדונו - נימוק פומבי; אותנטיות אפיסטמית של הרשומה; מצפון אנושי בהכרעה; כלליות ושוויון; פומביות, בהירות וקביעות; וכושר-תיקון מוסרי - אינם ערכים שהמשפט מקדם לצד ערכים אחרים, אלא תנאים המכוננים את המשפט עצמו כפרקטיקה של סמכות לגיטימית. זהו, בסופו של חשבון, הלקח העמוק של פולר: כישלון מוחלט באחד מיסודות המוסר הפנימי של החוק אינו מוליד חוק גרוע אלא דבר-מה שאינו חוק כלל.⁹⁸ מי שהמיר את חובת ההנמקה בהכרעה מהירה ועקבית יותר לא קיבל משפט יעיל יותר; הוא קיבל בקרה חברתית יעילה, שאינה משפט. ואם כך, אין טעם לשאול כמה יעילות "שווה" ויתור על תנאי מכונן, כשם שאין טעם לשאול כמה מהירות שווה ויתור על היות הרכב רכב.

שתי הערות-יושר על מעמדה של הרצפה. האחת: הרצפה עצמה עשויה חיכוכים - הנמקה מעכבת, אימות יקר, ביקורת איטית - ודינמיקת הברירה שתוארה בפרק ג תלחץ לשחוק גם אותה. משום כך אין היא יכולה להתקיים כהמלצה מקצועית התלויה ברצון טוב; תנאיה טעונים עיגון כנורמות כופות, שהפרתן גוררת בטלות, כדרך שעוגנו ערובות ההליך ההוגן. והשנייה: אין היא מוצעת בחלל ריק. ניצניה המוסדיים כבר כאן - בית המשפט החוקתי של קולומביה קבע קריטריונים מנחים לשימוש שיפוטי בבינה גנרטיבית,⁹⁹ והקוד האתי של הרשות השופטת בישראל מחייב אימות אנושי של כל אסמכתה ומעגן את אחריותו המלאה של השופט;¹⁰⁰ הרצפה מבקשת להעניק לניצנים אלה את שאין להם עדיין - הסבר עקרוני מדוע דווקא תנאים אלה אינם עומדים למיקוח.

מכאן העיקרון שאני מציע לכנותו רצפת לגיטימציה: אילוץ-צד דאונטולוגי (side constraint) על האופטימיזציה החישובית של המשפט. אילוץ-צד אינו משקולת נוספת בפונקציית המטרה אלא גבול של המרחב שבתוכו מותר לאופטימיזציה לפעול. שחקן השחמט רשאי להקריב צריח תמורת יתרון עמדתי - זהו שקלול בתוך המשחק; אין הוא רשאי "להקריב" את הכלל שלפיו הרץ נע באלכסון, שכן בלעדיו אין עוד משחק שאפשר לנצח בו. ששת התנאים הם, בהשאלה, כללי המשחק של המשפט הלגיטימי: לא מהלכים שאפשר להיפרד מהם תמורת רווח, אלא מה שעושה את המהלכים למהלכים של משפט. מטעם זה איני מציע "מבחן איזון" נוסף, מן הסוג שהשיח החוקתי יודע לייצר בשפע, אלא רשימה סגורה של תנאים שאינם עומדים למסירה - תהא היעילות אשר תהא. יודגש: אין מדובר בחזקה הניתנת לסתירה, שכן חזקה מזמינה מלכתחילה את מלאכת הסתירה, וההיסטוריה של איזונים חוקתיים מלמדת שאינטרס מדיד ומיידי גובר, בהצטברות המקרים, על ערך מופשט ומתמשך. אילוץ-צד, לעומת זאת, מוציא את השאלה מסדר היום.

חשוב להבהיר, בה בעת, את מה שהרצפה איננה. אין היא התנגדות לטכנולוגיה, אף לא חשדנות עקרונית כלפיה, אלא תיחום שלה: סימון הנקודות שבהן הריבונות האנושית אינה ניתנת להעברה, ושחרור כל היתר. מעל לרצפה - באחזור מידע, בניסוח טיוטות, בתמלול ובתרגום, בניהול זרימת תיקים ובצמצום עינוי הדין - כל רווח יעילות מבורך, ויש שיטענו כי נגישות המשפט אף מחייבת אותו מוסרית; ההבטחה שמנסחים איידיד ואלארי, של משפט זמין, זול ומדויק מאי-פעם, ראויה להתממש בכל מקום שבו אינה נוגעת ברצפה.¹⁰¹ הרצפה גם מינימלית במתכוון. היא אינה מתיימרת להסדיר את הכול; היא מסמנת רק את שאסור למסור. דווקא צרותה היא כוחה: חומה מקסימליסטית תתמוטט תחת לחץ היעילות המצטבר, ואילו רצפה צרה, מנומקת ובת-הגנה יכולה להחזיק מעמד.

שש הקומות של הרצפה

מן העיקרון נגזרות שש קומות, אחת כנגד כל חזית שנדונה. אנסח כל אחת מהן כעיקרון מרשמי, ובמתכוון אמנע מפירוט מוסדי: הרצפה קובעת מה אסור למסור, ואילו את שאלת היישום - בחקיקה, בכללי אתיקה שיפוטית או בנוהלי בתי המשפט - ראוי להותיר להקשרה של כל שיטה.

הקומה הראשונה, כנגד פריצת הנימוק הפומבי: הנמקה בבעלות אנושית. המכונה רשאית לנסח, להציע, לארגן ולזקק; אך השופט חייב להיות מסוגל לחזור ולנמק את ההכרעה כשלו - לא לחתום על הנימוק אלא להחזיק בו. שלוש חובות אופרטיביות נגזרות מכאן: יכולת שחזור, שלפיה שופט שאינו מסוגל להסביר את הכרעתו בלא המכונה לא הכריע בה כלל; אחריות אישית, השוללת את "כך העלתה המערכת" כמענה לביקורת; וגילוי, המחייב שקיפות באשר למקומה של המכונה בתהליך ההכרעה. העיקרון משמר את ליבו של רעיון הנימוק הפומבי: לא נכונות ההכרעה היא שמקנה לה סמכות, אלא היותה ניתנת להצדקה בנימוקים שהציבור יכול לבחון, לבקר ולתקוף. הקופסה השחורה יכולה לייעץ; היא אינה יכולה לשאת באחריות, ולפיכך אינה יכולה לנמק. והיגיון חייזרי, מוצלח ככל שיהיה בתוצאותיו, אינו נעשה נימוק בשל כך. הקומה הזאת נוגעת גם בפריקה הקוגניטיבית שתוארה בפרק ב.1, אך לא בדרך של תמריץ פסיכולוגי - שהרי אותה שחיקה פועלת מתחת לסף המודעות ואינה נשמעת לרצון טוב. כוחה של הקומה הגדרתי: יכולת-השחזור אינה תביעה שהשופט "יתאמץ יותר", אלא אמת-מידה אובייקטיבית למה שנחשב הכרעה - שופט שאינו מסוגל להצדיק את פסקו בלא המכונה, כאמור, לא הכריע בו - ופסק כזה פגום מעצם מעמדו, תהא איכות תוצאתו אשר תהא. את הפעלתו של המבחן - המחייבת את השופט לשחזר בפועל דווקא במקום שבו השחיקה אינה מותירה עקבות מורגשים - יש להשעין על מנגנון אכיפה חיצוני: הביקורת הערעורית, הבוחנת אם ההנמקה עומדת בפני עצמה. כך אין הרצפה חוזרת ונשענת על נחישותו של השופט הבודד - נחישות שפרק ב.1 לימד כי אין לסמוך עליה.

הקומה השנייה, כנגד פריצת האותנטיות האפיסטמית: רשומה מאומתת. ראשית, חובת אימות אנושי של כל אסמכתה בטרם תבוא בשערי מסמך שיפוטי - לקחה של פרשת Mata v. Avianca כנורמה מוסדית, לא כאנקדוטה מביכה.¹⁰² שנית, הפרדה מוסדית בין הקורפוס המשפטי המאומת-אנושית לבין תוצרים סינתטיים - מה שניתן לכנות "הסגר סינתטי": תוצר מכונה אינו נקלט ברשומה המוסמכת עד שעבר אימות אנושי. ההצדקה משולשת: תופעת ההזיות, זיהום התקדים שתואר לעיל, וממצאי קריסת המודל, המלמדים כי הזנה רקורסיבית של תוצרים סינתטיים מכרסמת בבסיס הידע עצמו ולא רק בשוליו.¹⁰³ ואין ההסגר מתיימר לטהר את הקורפוס כולו - פרק ב.2 לימד שהזיהום מחלחל גם בעקיפין, דרך כתבי טענות ומאגרים - אלא להציב שומר על השער האחד שניתן לשמור עליו: שערה של הרשומה המוסמכת. שלישית, תשתיות אימות-מקור כמוצר ציבורי ולא כשירות פרטי: בעידן שבו הזיוף העמוק מוזיל את ייצורה של הראיה הכוזבת, בהיעדר תשתית ציבורית תהפוך אותנטיות הראיה והתקדים למצרך שהנגישות אליו תלויה בכושר תשלום, והאמת בבית המשפט תיעשה פונקציה של אמצעים ולא של דין; כך יתגלגל דיבידנד השקרן ממחיר חברתי מפוזר לנטל שנושאים דווקא מי שידם אינה משגת.

הקומה השלישית, כנגד פריצת המצפון: מצפון בהכרעה. אין אצילה של הכרעה שיפוטית, ובוודאי לא של הכרעת-אשם, למכונה - לא במפורש ולא בעקיפין. קלט מכונה מותר כקלט מייעץ בלבד, ובלבד שהוא מובנה כך שאי-הסכמה אנושית תהא אפשרית, גלויה וזולה: ממשק המציג את פלט המכונה כברירת-מחדל שהסטייה ממנה טעונה הצדקה הופך, הלכה למעשה, ייעוץ להכרעה, שכן הטיית האוטומציה תעשה את שלה. פסק הדין בעניין לומיס הצביע על הכיוון - שימוש מסויג, אזהרות מובנות, איסור על הסתמכות בלעדית - אך גבולותיו רפים מכדי לבלום את הסחף.¹⁰⁴ ובצד אלה, שימור מוסד המושבעים ובכללו כוח הביטול מטעם המצפון - דווקא מפני שהוא "בלתי יעיל". האפשרות שהקהילה תסרב להחיל דין שאיבד את אחיזתו המוסרית היא שסתום ביטחון שאין לו תחליף חישובי; מערכת שסגרה אותו ויתרה על הערוץ שבו המצפון החברתי מדבר אל החוק. ההכרעה השיפוטית, בניסוחה של הקומה הזאת, אינה פלט שמישהו צריך לחתום עליו אלא מעשה שמישהו צריך לעשות - והתבונה המעשית שהוא תובע אינה ניתנת להאצלה.

הקומה הרביעית, כנגד פריצת הכלליות: כלליות כברירת-מחדל. חזון הדין הפרסונלי של בן-שחר ופורת נדחה כאן ככל שהוא רציף, סמוי ומבוסס-פרופיל; מה שהרצפה מתירה אינו אלא הרחבה זהירה של מרחב ההבחנות הקטגוריאליות שהמשפט מכיר בו מאז ומעולם:¹⁰⁵ פרסונליזציה של נורמות תותר רק בהקשרים שתכליתם הגנה על חלשים - הגנת הצרכן, דיני הכשרות, התאמת חובות גילוי למי שכושרו מוגבל - רק בקטגוריות פומביות ובדידות שנקבעו בהליך דמוקרטי וניתנות לביקורת שיפוטית, ולעולם לא כציון אישי רציף וסמוי הנגזר מפרופיל התנהגותי. האדם הסביר הוא אמת-מידה גסה, אך דווקא בגסותה כוחה: הכלל הכללי הוא שמאפשר למשפט לשמש שפה נורמטיבית משותפת ולא תעריף אישי. מי שדינו נתפר למידותיו שוב אינו יכול להשוות את דינו לדין רעהו; ובאין השוואה אין שוויון בפני החוק אלא תמחור פרטני של הדין.

הקומה החמישית, כנגד פריצת הפומביות, הבהירות והקביעות: טקסט שולט בקוד. החוק המחייב נשאר טקסט בשפה טבעית - פומבי, קריא לאזרח ויציב-עד-תיקון. הקוד רשאי ליישם את הנורמה, לחשב את נגזרותיה ולסייע באכיפתה; אין הוא רשאי להיות מקורה. ובכל פער בין הטקסט לקוד - הטקסט גובר, והפער הוא עילה לתיקון הקוד, לא ראיה לתוכנו של החוק. העיקרון חוסם את הגירת מקור-הסמכות מן המחוקק אל המפתח, שהילדברנדט זיהתה כסכנתו המרכזית של המשפט החישובי,¹⁰⁶ והוא שולל מן המשפט הנוזלי את מנגנון ההזרמה שלו: נורמה שאינה יכולה להשתנות אלא בהליך פומבי של תיקון טקסט אינה יכולה להתעדכן בשקט, בקצב המכונה, הרחק מעין הציבור. יש בעיקרון הזה גם ממד שוויוני שראוי להבליטו: טקסט בשפה טבעית נגיש, ולו בעיקרון, לכל אזרח; קוד נגיש רק למי שבידו המומחיות או ההון לרכוש אותה.

הקומה השישית, כנגד פריצת כושר-התיקון המוסרי: ביקורת-תיקון תקופתית. כל מערכת חישובית המוטמעת בהליך משפטי תעמוד לביקורת נורמטיבית מחזורית - לא ביקורת טכנית בלבד, המחפשת תקלות וסחף סטטיסטי, אלא ביקורת ערכית, השואלת אם הנורמות שהמערכת מקבעת עודן ראויות בעיני הקהילה שהיא משרתת. ולצדה, ערוצים מוסדיים לאתגור ערכי: דרך סלולה שבה מתדיין, שופט או ציבור יכולים לתקוף לא את אופן יישומו של הכלל אלא את הכלל המוקפא עצמו. הארט לימד כי שיטת משפט נבדלת מאוסף ציוויים, בין היתר, בכללי השינוי שלה;¹⁰⁷ מערכת המקפיאה את נורמות האתמול בקוד, בלא מנגנון ממוסד לרוויזיה מוסרית, מוותרת בדיוק על התכונה הזאת - ונעילה נורמטיבית היא שמו של הוויתור. המשפט מכיר בדגם הזה זה מכבר, בדמות הוראות שמירה והוראות פקיעה בחקיקה; החידוש המתבקש אינו אלא החלתו על הרובד החישובי, שבו ההקפאה נסתרת מן העין ולכן קשה במיוחד לאיתור ולתיקון.

ההערה האחרונה אינה קומה אלא תנאי-מסגרת. אף דיסציפלינה אינה רואה לבדה את כל שש הקומות: המשפטן רואה את חובת ההנמקה אך לא את המכניקה של קריסת המודל; מדען הנתונים רואה את הסחף הסטטיסטי אך לא את ערכו המכונן של ביטול מטעם המצפון; הפילוסוף רואה את התבונה המעשית אך לא את תשתיות אימות-המקור. תחזוקת הרצפה מחייבת אפוא מסגרת בין-תחומית קבועה - משפטנים, פילוסופים ומדעני-נתונים היושבים אל שולחן אחד - שתשוב ותבחן את הקומות לאור טכנולוגיה שאינה מפסיקה להשתנות. משמעת בין-תחומית זו היא תנאי לקיום הרצפה לאורך זמן, שכן שינוי-המשטר במקורות הלגיטימציה שביסוד המאמר אינו אירוע חד-פעמי אלא תהליך שאך החל.

מסקנה

פתחתי בשלוש תמונות מכס המשפט: השופט הקולומביאני שחשף כי הסתייע ב-ChatGPT בכתיבת פסק דינו¹⁰⁸; האלגוריתם שדיווח על ניבוי הכרעותיו של בית הדין האירופי לזכויות אדם מתוך תיאור העובדות כפי שנוסח בפסקי הדין עצמם, לאחר ההכרעה; ומושבעי-המכונה שזיכו נאשם במשפט מבוים בצפון קרוליינה. בפתח המאמר יכלו התמונות הללו להיראות כשלושה קוריוזים טכנולוגיים - הבטחה בעיני המתלהב, איום בעיני החושש. לאחר שנפרשו שש החזיתות, דומה כי ניתן לקרוא אותן אחרת: לא כחדשות מן העתיד אלא כשלושה חלונות אל תהליך שכבר החל - הגירת מקור-הסמכות מן ההנמקה האנושית הפומבית אל האופטימיזציה החישובית. שלוש התמונות חולקות מבנה אחד, גם אם לא במידה שווה: במושבעי-המכונה הכריעה המכונה עצמה, מהר יותר ובזול יותר מכל חבר מושבעים אנושי; בפסק הדין הקולומביאני היא ניסחה, לבקשת השופט, את הדרך אל התוצאה שאימץ; ובתמונה השלישית לא הכריעה המכונה כלל, אלא שחזרה תוצאה שכבר נפסקה, מתוך תיאור עובדות שנוסח לאחר מעשה - ודווקא בכך המחישה עד כמה ניתן לנתק את הפלט ממקורו ההנמקתי. בשלושתן נותרה תלויה באוויר השאלה מה בדיוק אבד בדרך.

מכאן גם הניסוח המדויק יותר של התזה. השאלה העומדת לפתחנו אינה אם המכונה תיכנס לאולם. היא כבר שם - במאגרי המידע המשפטי, בכלי הניסוח שבידי עורכי הדין, בתחזיות המסוכנות המונחות לפני השופט, ובקרוב אולי בהרכב עצמו. השאלה היא אילו תנאים חייבים לשרוד את כניסתה, כדי שמה שייצא מן האולם יוסיף להיקרא משפט. שש החזיתות שנדונו - הנימוק הפומבי; האותנטיות האפיסטמית של הרשומה; המצפון האנושי בהכרעה; הכלליות והשוויון; הפומביות, הבהירות והקביעות; וכושר-התיקון המוסרי - אינן שש תקלות הממתינות לשש רגולציות. הן שישה מופעים של פריצה אחת, וכל אחת מהן יכולה להתרחש - וחלקן כבר מתרחשות - דווקא כשהמערכת פועלת בדיוק כמתוכנן. זו הנקודה שביקשתי לחדד לכל אורכו של המאמר: הסכנה אינה שהמכונה תיכשל, אלא שהיא תצליח, ושהצלחתה היא-היא שתפרק את התנאים. זהו שינוי-משטר במקורות הלגיטימציה: משפט שכל תפוקותיו משתבחות בעוד תנאי הסמכות שלו נשחקים, עד שהוא נעשה בקרה חברתית יעילה הנושאת עדיין את שמו הישן.

מדוע להתעקש דווקא על התנאים הללו, כאשר התפוקות טובות מאי-פעם? משום שהמשפט, בסופו של חשבון, הוא הדרך שבה חברה חושבת בקול רם על עצמה - על מה שנחשב בעיניה שוויון, על מתי אדם אשם ומתי הוא ראוי למחילה, על גבולות האחריות ועל מחירה של החירות. ההכרעה השיפוטית אינה רק פתרון סכסוך; היא רגע שבו הכלל מנסח את עצמו מחדש, לעיני כול ובשפה שהכול יכולים להשיב עליה. מיקור-חוץ של החשיבה הזאת מרוקן את שני רכיביה גם יחד: את ה"בקול רם" - שכן הנימוק הפומבי מוחלף בפלט שאין מאחוריו טעם הניתן למסירה; ואת ה"על עצמה" - שכן המצפון הקהילתי, זה שבשמו נחרצת אשמתו של אדם בידי שווים לו, מוחלף בפונקציית מטרה שאינה של איש. התשובות עשויות להיות מהירות, עקביות ומדויקות מכפי שהיו אי-פעם. אין בכך רומנטיזציה של השיפוט האנושי על חולשותיו, שנדונו כאן בהרחבה; יש בכך הכרה בכך שחולשות אלה הן מחיר קיומו של דבר-מה שאין לו תחליף חישובי - נטילת אחריות בגוף ראשון. תשובה שאיש אינו יכול לנמקה ואיש אינו נושא באחריות לה אינה חברה החושבת על עצמה; היא חברה המעובדת כנתונים.

רצפת הלגיטימציה שהוצעה לעיל אינה, אפוא, תוכנית טכנית להסדרת כלי עזר, אלא תשובה לשאלה מה אסור למסור - ויהיו יתרונות היעילות אשר יהיו. ייתכן שהמשפט של העשורים הבאים יהיה זול יותר, מהיר יותר וצפוי יותר מכל מה שהכרנו; תולדות המכשור מלמדות שכך יקרה. אך אם יימסרו עמו גם תנאי הלגיטימציה - הנימוק, הרשומה, המצפון, הכלליות, הפומביות וכושר-התיקון - יימצא המשפט במקום שאליו חותרת כל אופטימיזציה שאינה יודעת את גבולה: יעיל לאין-שיעור, ומשום כך בדיוק - ריק.