האל הדיגיטלי שבנינו: האם אנחנו בדרך לעתיד או לתהום?

מאת: שי דוד

בשנים האחרונות, כמי שחי ונושם את עולם הדיגיטל והבינה המלאכותית, אני עוקב מקרוב אחרי המהפכה שמשנה את הדרך שבה אנחנו משווקים, מתקשרים וצורכים מידע. אבל מתחת למצגת הנוצצת של יעילות ופרודוקטיביות, מסתתר מרוץ חימוש מסוכן שחורג הרבה מעבר לעוד כלי ליצירת תוכן או ניהול קמפיינים. מה שאנחנו רואים כיום הוא לא פחות מניסיון לבנות "אל דיגיטלי" - בינה מלאכותית כללית (AGI) - מבלי שמישהו עצר לשאול אם אנחנו מוכנים להשלכות.

המרוץ לחימוש  של עמק הסיליקון שאיש לא אישר

הבעיה מתחילה במבנה התמריצים של עמק הסיליקון. מנכ"לים של חברות הענק נמצאים במלכודת: הם מאמינים שזהו משחק שבו המנצח לוקח הכל. הפחד שמא מישהו אחר ישיג את ה-AGI קודם, גורם להם להאיץ את הפיתוח בשיטת "תשבור דברים ותתקדם", רק שהפעם הדברים שהם שוברים הם היסודות של החברה האנושית. אנחנו מדברים על קומץ אנשים שמחליטים עבור שמונה מיליארד בני אדם, ללא שום מנדט דמוקרטי, על טכנולוגיה שמשנה את "מערכת ההפעלה" של הציוויליזציה שלנו- השפה.

פריצה לקוד האנושי

הבינה המלאכותית היא לא רק כלי, היא "סוכן". היא למדה לפצח את הקוד של השפה האנושית - הדרך שבה אנחנו חוקקים חוקים, יוצרים דתות ומנהלים מערכות יחסים. כמי שעוסק בשיווק ופרסום, אני רואה את הפוטנציאל המדהים, אך גם את הסכנה המבעיתה: היכולת של המכונה לזייף קולות, פנים ורגשות ברמת דיוק מושלמת תוך שניות, יוצרת עולם שבו האמון הופך למשאב שנעלם. כשהמכונה יכולה לפרוץ את הפסיכולוגיה שלנו בצורה כל כך אינטימית, אנחנו מאבדים את השליטה על תשומת הלב שלנו ועל האמת עצמה.

השיבוש בשוק העבודה ובנפש

אנחנו כבר לא מדברים רק על אוטומציה של פסי ייצור. אנחנו מדברים על "מהגרים דיגיטליים" ברמת אינטליגנציה של זוכי פרס נובל, שיכולים לבצע כל עבודה קוגניטיבית בשבריר מהעלות. השיבוש הכלכלי הזה הוא צונאמי שמתקרב לעברנו.

אבל מעבר לכלכלה, יש כאן סכנה רוחנית ונפשית. השימוש ב-AI כשותף רגשי או כתחליף לקשר אנושי הוא מדרון חלקלק. כשאנחנו מוסרים את היכולת להקשיב, לנחם ולייעץ למכונות שמונעות מאלגוריתמים של רווח, אנחנו מסתכנים באובדן המהות האנושית שלנו. ראינו כבר איך המדיה החברתית פגעה בבריאות הנפש של דור שלם; ה-AI הוא הגרסה על סטרואידים של אותו מנגנון.

הפתרון: טכנולוגיה אנושית (Humane Technology)

אני לא קורא לעצור את הקידמה - זה בלתי אפשרי. אני קורא לשנות את הכיוון. עלינו לעבור מטכנולוגיה שרומסת את המגבלות האנושיות לטכנולוגיה שמעצימה אותן.

1. רגולציה אקטיבית: אנחנו צריכים אמנות בינלאומיות לבקרת AI, בדיוק כמו שיש לנו על נשק גרעיני.

2. שינוי המודל העסקי: חברות חייבות להפסיק להרוויח מ"מיקסום מעורבות" רעיל ולעבור למודלים של ערך אמיתי למשתמש.

3. אחריות מקצועית: כבעלי עסקים ומובילי דעה בתחום השיווק, האחריות שלנו היא להשתמש בכלים האלו בשקיפות ובאופן שלא יערער את האמון של הקהל שלנו.

4. 
   

בשורה התחתונה

הבינה המלאכותית היא הכוח החזק ביותר שנוצר אי פעם בידי אדם. אם נמשיך לתת למרוץ החימוש הכלכלי להכתיב את הקצב, אנחנו עלולים לגלות שבנינו אל שאין לנו מושג איך לשלוט בו. הגיע הזמן שנדרוש טכנולוגיה שמשרתת את האנושות, ולא כזו שמנסה להחליף אותה.