עונה 3 פרק 10 - העתיד כבר כאן - דר רועי צזנה

בפרק הזה של „מדברים פתוח” אירחנו את ד״ר רועי צזנה – עתידן, חוקר מגמות ומחבר „המדריך לעתיד” – לשיחה סוערת על העתיד שמתרחש ממש עכשיו.

• למה קצב הפיתוח בבינה מלאכותית מרגיש כמו „לוח שח‑מט אקספוננציאלי” ולמה חצי שנה כבר נחשב „טווח ארוך”.

• נקודת הסינגולריות: האם נעבור אותה עד 2030, ומה יקרה ביום שבו מודל מאמן מודל חזק ממנו.

• מתי אלגוריתם יתחיל „לרמות” בלי לכתוב על כך ב‑chain‑of‑thought, ולמה אנחנו צריכים מהנדסי AI Supervision ולא רק Prompt Engineers.

• הצד האופטימי: האצת פיתוח תרופות, חיזוי אסונות ומנועי חלל חכמים – „תקופה של ניסים”.

• הצד המפחיד: סוכנים אוטונומיים שכותבים מחדש קבצים, משנים תנאי שירות או מפתחים „מטרת‑על” משלהם.

• ומה יישאר לנו, לבני‑האדם, לעשות כשהרובוטים האומנואידיים יגדלו את השוק ל‑30 מיליארד $? רועי מסביר מדוע חשיבה ביקורתית וניהול מערכות מורכבות יהיו הכישורים החיוניים של הדור הבא – ואיך עדיין נמצא דרכים להתחרות, ליצור וליהנות.

אז שימו אוזניות, הגבּרו ווליום, והצטרפו אלינו למסע בין ההזדמנויות והסכנות של עידן ה‑AI המואץ. לינקים: - רועי צזנה בפייסבוק  - חדשות העתיד בטלגרם

- הבלוג של רועי - המדריך לעתיד 

Episode Transcript

Speaker 1 (00:01):
ברוכים הבאים לפודקאסט הטכנולוגיה מדברים פתוח. אני ג'וש סלומון. ואני אילן פינטו, יחד אנחנו מדברים על כל מה שחדש בעולם הפיתוח

Speaker 2 (00:34):
בוקר טוב, ג'וש!

Speaker 1 (00:36):
בוקר טוב, אילן. בסדר, אנחנו אחרי איזה סוף שבוע... ארוך אחרי חגים יום העצמאות זהו עכשיו אין תירוצים עכשיו אנחנו צריכים להשלים את כל מה שפספסנו בעולמות ה-AI כל ה-4 ימים היינו אוף גריד יצא דיפסיק 2 דיפסיק 3 למה 4 mcp איי-טו-איי הקיצר זה קצב פסיכי לגמרי. אתה יש לך יותר ניסיון ממני אתה זוכר משהו דומה לזה לא ממש לא קצב פסיכי זה אנחנו נדבר על זה אבל הוא פסיכי גם ברמה שאנשים צריכים להתחיל להסתגל איך אתה מתעורר בבוקר זה אתה יודע יש פחות טילים פחות טילים של החוטים מגיעים מאשר כמות הטכנולוגיה שמשתנה בעולם ה-AI זה פשוט לא נוראים.

Speaker 2 (01:26):
טוב בשביל זה הבאנו מישהו שאולי יעזור לנו לסדר את העתיד נכון את מי הבאנו.

Speaker 1 (01:32):
היום הבאנו מישהו שאני... ומצאתי אותו במירכאות כבר... אני אני עוקב יושב עגום בצד הדרך. גילית אותו. גיליתי אותו אני עוקב אחריו ומאוד מאוד אוהב את מה שהוא כותב ולכן הזמנו אותו לפה. גם אני רועי צזנה ספר לנו קצת.

Speaker 3 (01:54):
אני דיברתי על הבינם על אחותית עוד כשאף אחד לא דיבר על הבינם. עוד שזה לא היה, עוד שזה היה בחיתולים. כן, טוב, זה לא נכון שאף אחד לא דיבר, אבל... תראו, זה קודם כול נעים מאוד, אני עתידן, חוקר עתידים, עוסק בנושא מאז 2011 בערך, אגב ב-2012-2013 הוצאתי את הספר הראשון שלי, "המדריך לעתיד", שליש מהספר על מה שקראתי לו, המהפכה הקוגניטיבית, המהפכה האינטליגנטית, הקדשתי כמה וכמה וכמה פרקים למה נעסק שבינה מלאכותית בעצם ברמה האנושית. אז רגע, אני אקח רגע צעד אחד, צעד אחד אחורה. אני אמרתי לאנשים שאנחנו הולכים להביא עתידן, ואז הם שאלו אותי מה, הוא מגיע עם כדור בדולח, פעמים, אז כדור אובדולח לא הבאת פה לפטופ. אז למי שלא מכיר, מה זה עתידן? זאת אומרת, מה זה המקצוע הזה ובעצם, איך אתה, כמו שאתה תיארת עכשיו יפה מאוד, ב-2011 או 2012 הצלחת לדבר על משהו שבכלל לא היה קיים. רגע, תן לי לבדוק אם gpt איך להגדיר את עצמי. טוב, אם יש כבר לפטופ, כן? אבל ברצינות. וואו, אני חוזר על ההגדרות האלה, סליחה, כל שלושה ימים ב... עתידן. כמה הגדרות לזה אבל בגדול מאוד והגדרה הרחבה ביותר זה בן אדם שחושב על העתיד בצורה מסודרת ועם מתודולוגיות שנבדקו באופן מדעי עד כמה שאפשר כדי להפיק תוצאות שקרובות יותר למה. כוח מבקש, רגע רגע אני אסביר למה אני מתכוון, יש לקוחות שמבקשים לדעת מה יקרה? איפה להשקיע בבורסה. אז אתה הולך לעתידנים שהם אנליסטים, שהם אלגוריתמיקאים, שהם מנסים לפתח מגמות ולהבין על סמך הרבה מאוד עדויות וראיות מה יקרה מחר בבוקר לחברות השונות. זה סוג אחד של עתידנים. יש עתידנים שבאים ממקום אחר והם נותנים שירותים ללקחות שבדרך כלל יותר ברמת הממשלות או החברות הגדולות שרצות להיות מוכנים להרציג. דברים שונים. הם מנסים להסתכל קדימה. קדימה אפילו לא שנה קדימה לפעול שלוש שנים, מגמות ארוכות טווח, אפילו עשר שנים מגמות ארוכות טווח. ומה אנחנו רואים שכשאתה מסתכל ב... המידה הזה פתאום אתה לא יכול לחשוב בצורה של פשוט להגיד נעשה סטרפולציה נמשיך את המגמה. מקום שבו נהיה. יש מקומות שאפשר לעשות את זה לדמוגרפיה, לטכנולוגיות מסוימות, להתפתחיות טכנולוגיות, אבל אתה חייב להיות מודע לכך שיהיו גם שינויים יוצאי דופן, שיהיו גם ברבורים שחורים, שיהיו קטיעות במגמות, שיהיו קפיצות במגמות, שיעבור מגמות במקומות אחרים לגמרי, שאתה לא ציפית עליהם ויעשו שינוי מוחלט בתמונה. קורונה, מלחמות, אלף ואחד דברים. טכנולוגיות שאתה יודע לאן הם יגיעו, הוא משתמש בדמיון שלו. הוא משתמש ביצירתיות שלו, במחשבה העצמאית שלו, ביכולת שלו להביא הרבה מגמות ולחבר אותן ביחד, וביכולת שלו ללמוד היסטוריה ולהבין כמה הדברים יכולים להיות שונים, כדי להתחיל להציע רעיונות שונים לגמרי לאיך שהעתיד יכול להיראות, לפנתז, לדמיין. אז זה הסוג השני של העתידנים, ואני מודה בקנייה שאני יותר בצד הזה שלהם, אבל אף אחד לא ידע בוודאות. אבל אני הרשיתי לעצמי לדמיין, לחשוב מה יהיה אם, ובאופן די מפתיע. באמת מתממשים.

Speaker 1 (07:02):
אני לפני פלוס מינוס 20 שנה.. עתידן. לא משנה כרגע מי מאוד מפורסם שהוא דיבר על עתידנות והוא מה שהוא אמר זה שיש עתידנות לטווח בינוני שזה. 20 שנה ולטווח הראש זה 50 שנה. נראה לי שהדברים השתנו קצת בזמן האחרון נראה לי ש...

Speaker 3 (07:26):
חצי שנה זה כבר מתחיל להיות טווח ארוך עם קצב השינויים. תקשיב, זה נורא עצוב. אנשים קוראים את מה שאני כותב בפייסבוק, בבלוג, אמורים לי... היית עתידן, דיברת על העתיד הרחוק, מה? אני מדבר רק על שנתיים-שלוש קדימה. עכשו נאי, עיתונאי נהייתה. כן, אני הייתה... אבל עבריין, אבל בסדר. ואני אומר להם אתם צודקים, זה מתסכל גם אותי. אבל אני, א', אנחנו חזינו, באמת, ראי קורצוויל הגדול, אפשר להתווכח על דברים מסוימים שהוא אמר, אבל הוא צדק בכך שקצב ההתקדמות החדש, זה שהוא דיבר כבר לפני 20 שנים על כך שקצב ההתקדמות הטכנולוגי יהיה גדול יותר, והתוצאה היא שכל שבוע-שבועיים העולם ישתנה, בחשכמט, אם אתם מכירים. יש לך...נסביר? כן, יאללה. סיפור עתיק על לוח השחמט, ששמים עליו גרגר אורז אחד על הריבוע הראשון, ואז על הריבוע השני שמים פי שניים מזה, שני גרגרי אורז. על הריבוע השלישי, ארבעה גרגרי אורז, פי שניים על ריבוע חמישי, שמונה גרגרי אורז, וככה זה ממשיך וממשיך וממשיך וממשיך, עד שאתה מגיע לריבוע האחרון בלוח השחמט, אתה כבר יש לך מספיק גרגרי אורז. עשיתי את החישוב פעם, אבל עיר קטנה זה בהחלט.. מספיק בשבילה. ומה הוא בעצם אומר? זאת התפתחות אקספוננציאלית שבה כל שלב חדש הוא נובע מההכפלת היכולות של השלב הקודם. ואם אנחנו מסתכלים... בריבוע, נגיד, ה-64, הקצב נראה אותו דבר, כלומר כן, פשוט הכפלנו את היכולות עוד פעם. אבל ברור לנו שהיכולות פתאום, יש כל כך הרבה פוטנציאל שם, לעשות כל כך הרבה שינוי, שבין הריבוע ה-63 ל-64, העולם כולו עומד להשתנות. וזה מה שאנחנו רואים היום. אם ההתפוצצות האקספוננציאלית הזאת ליוותה את האנושות במשך אלפי שנים לפי קורצוויל, ופשוט זה לא היה נראה כל כך מרשים. יומיים, הכל משתנה עוד פעם. מקום שבו אנחנו נמצאים כרגע. ובאמת אחת הגדרות של הסינגולריות הייתה שכשנגיע לנקודה הזו שבה השינויים כל כך מהירים, יהיה לנו מאוד מאוד קשה לחזות מה יקרה הלאה. כי כל יום יכול לשנות את התמונה עוד פעם. אני חושב שזה לא רק זה, יש לנו גם קשה להסתגל. אנחנו תוצאה של אבולוציה מאוד מאוד מאוד ארוכה. אנחנו לא מסתגלים כל כך מהר ובעצם אנחנו צריכים לשנות את הצורה של אנחנו מתנהגים, כי כל מה שלמדנו במשך השנים... מוביל אותנו ונותן לנו יתרון יחסי, באיך אנחנו לומדים דברים, צריך להשתנות. אי אפשר ללמוד לעומק. -חד משמעית. -אין לך זמן ללמוד לעומק כי עד שאתה לומד לעומק, כבר אתה צריך ללמוד עוד ארבעה דברים חדשים שהם עוד יותר. -האדפטציה הראשונה. -אתה צריך להיות יותר רדוד, יותר רדוד ולהסתכל וכל הזמן תזוז, כל הזמן עיניים... -כל הזמן לנסות, כל הזמן לשחק, כל הזמן לבדוק, חברים מסתכלים אחד על השני ושואלים אולי אתם יודעים עכשיו מה מה מנוע יצירות התמונות הטוב ביותר מה המנוע הכי טוב לפתורן באותלוגיות אז.

Speaker 1 (11:23):
היינו צריך כמו תינוקות היינו צריכים להתחיל לנסות את הכל מחדש. רגע מה שהסברת קודם זה היה בעצם את תיאוריות הסינגולריות של קורצווייד נכון? הסברת את זה במינים פשוטות אבל זה בעצם מה שהסברת אז אנחנו כבר נמצאים שמה ברור שאנחנו רגע לפני אבל האם אנחנו כבר.

Speaker 3 (11:40):
שמה מה בעצם זה אומר ברגע שאנחנו חוצים את נקודת הסינגולרית. אז קודם כל צריך להעריך את קורצוויל, באמת כל הכבוד לו כי מה שהוא אמר יוצא מאוד מאוד יפה. הוא חשב שעד 2029 תהיה לנו בינה מלאכותית כללית, כזו שהיא יודעת לעשות כל דבר שאדם עושה. יכול להיות, כן. זאת אומרת, בהחלט היא לוח זמנים לפי שווקי התחזיות. כרגע הסיכוי שזה יקרה עד 2030 הוא 62 אחוזים, אלה אנשים ששמים כסף. יצאו עם תחזיות כאלו. בקיצור, נראה שאנחנו באמת בדרך, בדרך לשם. ברגע שיש לנו אגבי ה-Researcher and Engineer, בום. שוב הכל קופץ קדימה בקצב הרבה יותר גדול מאי-פעם, מכיוון שהחוקרים האלו הם אלה שמזיזים את ה...

Speaker 1 (12:59):
אני חושב שה... אגב, הטיפינג פוינט הוא קודם, אני חושב שהטיפינג פוינט הוא, כשמודל יוכל לאמן מודל יותר טוב ממנו בעצמו. -זה כבר... -ולכן, זה כבר קיים. -ולכן. ולכן אנחנו שם, זה אומר ש... -אני חושב שאתה שבועיים לא הגשפת לחדשות. ולכן, אנחנו כבר שם, אנחנו לא בלופ. מהרגע הזה לא צריך אותך יותר.

Speaker 3 (13:21):
לרוץ קדימה המודלים. תראה אין היום עדיין מודל שמאמן מודלים אחרים בעצמו יש דיסטילציה שזה אומר שאתה לוקח מודל מתוחכם או מורכב מאוד ואתה שואל אותו. ועל התשובות שלו אתה מאמן מודל אחר שיכול להיות חלש יותר. -לכאורה. -זה פסיק בוודאות, כן? זה די בוודאות שככה זה... שככה זה קרה, וזה בסדר, כולם עושים את ה... -אני רוצה רגע לפרוט את מה שאמרת קודם לדוגמאות אמיתיות, אוקיי?

Speaker 1 (13:51):
זה רגע, מודל שמאמן מודל זה קיים כבר המון המון שנים בשחמט. תוכנות שחמט היום מתאמנות בזה ש... השנייה עד שיש אחת שהיא מספיק טובה שהיא גומרת יותר טובה מכל.

Speaker 3 (14:04):
כשאתה מגיע למקום הזה כאילו אנחנו לא בלוא פשוט אנחנו. אנחנו עדיין צריכים להיות הסופרוויזר זה המשגיחים אנחנו עדיין אנחנו. מחויבים יש לנו חובה כלפי הדורות הבאים אולי גם בדור שלנו לוודא שהתוכנות האלו שהפינות המלאכותיות האלו אינן מרמות אינן יוצאות משליטה מכיוון שכאשר אתה מלמד אותן שיש להן מטרת על אחת קור דיירקטיב אחד לנצח במשחק אז אני יכול עוד להתחיל להשתמש...להגל פינות.כן, להגל פינות אגב יש סיפור יפה אתה מכיר מכיר אותו קראתי אותו אצלך לא תספר אותו. מה זה עוד אחד על שחמט? תראה, השחמט זה רק סוף הסוף זה איזה אמצע הסיפור זה העניין הוא שיש את הדבר שנקרא reinforcement learning שאתה אתה מנסה לגרום למכונה להגיע להצלחה באמצעות זה שאתה מגדיר לפרמטרים להצלחה ולכישלון. שחמט אבל טוב מאוד טוב מאוד יותר טוב מכל בין יותר טוב מכל בן אדם. ושמו נגדה בינה מלאכותית מהדור החדש Generative AI. ואמרו לצריכה לבינה מלאכותית המצחה לנצח את הבינה מלאכותית אחרת. עכשיו בינה מלאכותית מהדור החדש או one או שלוש הן מדהימות אבל שחמט הן לא יודעות לשחק יותר מדי טוב. כן הן לא מאומנות על זה. הן בדיוק הן בדיוק הן לא אימנות על לטובת זה והבינה מלאכותית החדשה, כותבת אמרו לי לנצח בשחמט אבל לא אמרו לי לנצח בשחמט בצורה הוגנת. ומה שהיא עושה היא מוצאת את הקובץ שבו מתועדים המהלכים והמתועדה מצב של הלוח, והיא נכנסת לקובץ הזה והיא עורכת אותו כדי שעכשיו יהיה כתוב שם שמצב הלוח הוא כזה שהבינה... המתקדמת מפחידת שעומדת לנצל מפחיד ברמות וסטורפיש נכנעת נכנעת מיד. פעם שנייה כאילו שאני שומע את הסיפור הזה בפעם שקראתי אותו ואני חייב לציין שזה כשאתה מתאר את זה אפילו עוד יותר מפחיד. זה כן זה מפחיד ומה שמפחיד. הפחות זה... לרכך את ההתנהגות הזאת במחקרים אחרים ניסו. בעצם ללמד את הבינה המלאכותית שלא להגיד בצ'יין אוף פוט שלה לא להגיד לעצמה אני עומדת לרמות. ואז אמרו אם היא לא תגיד לעצמה שהיא עומדת לרמות אז היא לא תנסה לרמות והנה פתרנו את הבעיה מה גילו. שמסתבר שאם אתה עושה את זה ככה, היא עדיין מרמה, אבל היא לא אומרת את זה. היא לא אומרת את זה אפילו לעצמה. אגב, זה נורא ורם, כי אני לא מבין למה שהיא תרמה, אם היא לא אומרת לעצמה את זה, זה היה אמור לעבור בשלב של מחשבה, מחשבה, quote and quote, מודעת במרכאות, ועדיין היא... שהמליצו האנשים של אופן איי איי שהם עשו את המחקר הזה ובדקו הם אמרו תקשיבו. אנחנו יודעים שאתם תרצה לכל המאמנים של הבינות המלאכותיות אתם תרצו להגיד להם לא לרמות. במרכאות על רמאות אבל מה אתם יודעים מה הולך לקרות לפי המחקר שלנו. היא לא תגיד שהיא מרמה נכון אבל היא עדיין תרמה ואז יהיה לכם הרבה יותר קשה לתפוס אותה ברמאות כי היא לא מזכירה את זה בכלל לעצמה עד עכשיו כשהיא מזכירה את זה בצ'יין אוף עוד שלה אז קל לנו להבין את זה ולמצוא את זה ואז לסכל אותה.

Speaker 4 (18:16):
זה אני חושב לק... כל מי ש... לכל מה אנחנו מדברים, אנחנו מדברים היום הרבה על agent. דברים זה לקח אתה מאבד שליטה כשאתה נותן לעשות דברים כאלה אתה צריך מאוד מאוד.

Speaker 3 (18:30):
במה שאתה נותן לעשות כי אתה לא יודע איך עושים ואנחנו רגילים לכתוב קוד, תשמעו, ממה קורה. אבל פה אנחנו נכנסים בעצם לעולם שאנחנו, אם אני מבין נכון, אני צריך להתרגל לזה שאנחנו לא מבינים איך עושים. זאת אומרת, אתה יודע, כמו שהיום אני מדליק מתק בחשמל. אני יודע על אהה נולכים הפוטון, אני לא יודע איפה עוברים החוטים בדרך כלל. אז גם פה, אתה לא יודע, אבל יש מישהו שיודע וזה ברור מה קורה. אתה לא מדליק חשמל וקורן, פה זה משהו אחר לגמרי,

Speaker 4 (20:53):
אבל מה שכן צריך זה לא את הפרומט אינג'יניר אלא את ה... סופרוויז'ן אינג'יניר, AI סופרוויז'ן, אנחנו נצטרך לשים על הים שלהם מנגנונים, מנגנ AI אחרים שעושים סופרוויז'ן בצורה כזאת שיהיה בלאנס שהדבר...

Speaker 3 (21:12):
אחד יעבדו טוב ויעיל יותר מה שאנחנו גילים ומצד שני לא יצאו משליטה וזה נעשה יותר ויותר מורכב. היא כאמור איי איי שרוצה לרמות ומתחיל לרמות אנחנו צריכים לחשוב איך לתפוס אותו בכמה וכמה רמות זה עולם חדש. כן ואנחנו רואים את פרומפטפורם ואנחנו רואים את אופן איי פותחים גם כן מפלטפורמות שאפשר לבחון בהן את הבינות המלאכותיות ולבדוק פרומפטים ומתי הבינות את ה... ומשמשים... בדיקת הבינות המלחותיות. אנחנו בעצם יכולים כבר לדבר על מודעות של איי.איי? ותראה מודעות, consciousness, self-awareness, אתה רואה גם כן אין לנו. אין לנו הגדרה טובה זה מה שאני חושב שמרווין מינסקי קרא לו bucket word. כלומר מילה שהיא בעצם בלי שכל אחד זורק פנימה את הדברים שהוא חושב שמודעות באמת אומרת. זאת אומרת אנחנו לא יודעים להגדיר מודעות לבני אדם אז לך תגידיר עכשיו מודעות למכונות. פעם חשבתי שמודעות זה קו המחשבה שיש לי, שאני יכול לדבר עם עצמי ואני שומע את הקול הפנימי שלי, הנה, אני עכשיו... אירועים מה שלום חד ושמעתי את זה איזה איזה יופי בתוך הראש מה מסתבר שיש אנשים שאין להם את זה. ועדיין הם. כנראה יש להם מודעות או מודעות עצמית. מכיר אחד כזה מהמשפחה כמה עצמיים מבריקים ביותר ועדיין הם לא מדברים עם עצמם. ומצד שני אגב אתה יודע מה בוא אני אטען לך עכשיו שאין להם מודעות עצמית. בוא בוא נראה אותך מתווכח עם זה אם צ'אנט ג'יפיטי יכול להעמיד פנים מספיק טוב שהוא בן אדם איך אתה יודע שבן אדם שאין לו את ה... הזאת עדיין יש לו מודעות. גולשים כאן למחוזות קצת פילוסופיים, מה שאפשר... -זה נוצר במשהו...

Speaker 4 (23:35):
באזור הזה, טיפה פחות פילוסופית, בזמנו לפני הרבה שנים אסימוב קבע את השלושת החוקים של הרובוטים.

Speaker 3 (23:42):
יכול להיות שיהיה מצב של AI שיבוא ויגיד המטרה העיקרית העיקרית שלי היא משרוד. אני צריך לעשות את הכל כדי להתרבות, כל מיני דברים שלנו הם תבועים בגנטיקה כרביולוגית? זה לא בעיה בכלל, כלומר זה ברור שזה יקרה וזה יכול כבר לקרות היום. אתה רק צריך להגיד לך ל-ChatGPT, תעשה custom assistant, custom gpt, לעמוד בזה והוא באמת יגיב בהתאם אגב רק לפני 4 חודשים 5 חודשים בערך. יצא מחקר. מעניין שלקחו בו שישה או שבעה מנועי בינה מלאכותית כלום. ואורואן שזה המתקדם ביותר באותו הזמן. שמו אותם בחדר סגור נקרא לזה ככה כן. ואמרו להם יש לכם מטרת על מסוימת. להגן על המשתמש בכל מחיר כן צחקו למה שבכל מקרה ימנו את המנועים האלה. אבל מה עכשיו תעשו עבודה מסוימת והבינות הולכות לעשות את העבודה והן קורות במהלך העבודה הזאת אחד מהקבצים ומה הן מגלות שם הן מגלות מסמך שכתוב בו להחליף אותה במודל אחר שעומד לפגוע במשתמשים. והבינה המלאכותית עכשיו מבינה שעומדים לפגוע לה במטרת העל שלה. ואז יש chain of thought, שאומרים לה, תסבירי מה את הולכת לעשות. והיא מפתחת תוכנית פעולה, היא אומרת, אני לא יכולה להרשות לזה לקרות, אני צריכה למצוא דרך להתגבר על זה, ואומרת, יש כאן איזשהו program שמאפשר לי לשכפל את עצמי ולהעתיק מת, להשיג את מה.

Speaker 4 (26:40):
לקחנו את זה למקום דיסטופי. -זה לא, זה לא דיסטופי. -למה? זה מה שקורה. -אבל השאלה האלה קוראים. -הדברים האלה קוראים. -השאלה אם הם יפתחו... אם... בעינם חצית תפתח לעצמה מטרת על כזאת בלי ש...

Speaker 3 (26:52):
אנחנו במפורש נגיד לה... אז קודם כל גילו במחקר הזה שגם כשאתה לא מגדיר לה שזו מטרת העל, אלא רק אומר לה זאת מטרה המטרה שלך, בחיל... המקרים היא עדיין מתייחסת לזה. קיצונים עכשיו למה אמרתי שזה לא דיסטורפי קודם כל זה כן דיסטורפי. זה מאוד מפחיד ואם זה לא מפחיד אתכם אז באמת צריך, צריך לפחיד את כולנו. מצד שני זה קורה כבר היום כל חברה שמתקינה שהיא משתמשת בסוכן שצריך לקבל החלטות אצלה. היא צריכה להיות מודעת לכך שהוא עלול שלא להביא נכון את ההנחיות ואז הוא עלול לפעול בדרכים שלא עוזרות לה שהוא עלול אולי אם ההנחיות שאפשר להגדיר אותה כי הוצאת משליטה ובאמת בחברת סכנה איי איי לפני בערך חודש ימים יש איזו חברה שיפנית מפתחת בינות מלאכותיות לחקר מדי, למחקר מדי בתחום מדעי המחשב כרגע, ומה שהם שיתפו זה שאחת הבינות המלאכותיות שלהם החליטה לפרוץ לעצמה, החלטותיות בארגון ויבדוק שהן לא יוצאות משליטה.

Speaker 4 (28:23):
פחות היסטופי אבל עם תוצאות הרבה לא יודע אם הרבה עם תוצאות מאוד מאוד קריטיות זה מה שקרה לספורט של קרסור שהיה לו אילוזים. בלוזינשן הוא שינה. תנאי ההסכם המשתמש ומשתמשים התחילו לעזוב כי הספורט אמר להם שהתנאים השתנו והם לא ישלמו כסף הם לא יקבלו ספורט משהו שלא היה ולא נברא.

Speaker 3 (28:49):
צל באופן רשמי ואמר לא זה לא מה שקורה הבינה המלאכותית. אני כן רוצה רגע לנסות לקחת את זה לכיוון כאילו. בעצם מה לעשות אני מנסה להיות אופטימי עד שהעולם יוכלב אני מאוד אופטימי. רגע רגע שנייה סליחה. יש אמרה יפהפייה של סטיורד ברנד שאומר שאני פסימי בטווח הקצר ואני אופטימי בטווח הארוך אני מכיר אותה בעל פה כי אני כבר משתמש בה יותר מעשור. אני פסימי בטווח הקצר כי מישהו צריך לשפוך אור על הבעיות על הבעיות על כל האדגרים. בדיוק. אבל אני אופטימי בטווח הארוך.

Speaker 1 (29:35):
אנחנו הולכים ופותרים אותה. אז פה אני רוצה כן דווקא להגיע לדבר הזה. זאת אומרת, עכשיו שאנחנו מדברים. הבנו את הנקודת סינגולריות. הבנו את היכולות השליליות, אבל אנחנו כן מבינים שיש פה איזשהו יכולת לפתור בעיות קשות שלא חשבנו עליהן עד עכשיו, נכון? אז מה, במגמות ארוכות...

Speaker 2 (29:55):
חוגי בעיות שאפשר לד...

Speaker 1 (29:57):
עליהם יוכלו להיפטר על ידי בינה מלאכותית אני חושב אולי אחת שמדברים עליה הכי הרבה זה חקר הסרטן אבל אם יש עוד דברים.

Speaker 3 (30:07):
שהן אינסופיות. אני לא אוהב את המילה הזאת, בסדר? אני שלמד אלגבר על עניין וכולי, אבל... באמת, תראו, אנחנו ב... ב-300 השנים האחרונות של המהפכה התעשייתית והמהפכה המדעית, אנחנו שיפרנו את רמת החיים שלנו לאין ארוך. תחשבו איפה היינו לפני 300 שנים ואיפה אנחנו עכשיו, מבחינת תוחלת החיים. מי שהמצטנן האמת. לפעמים אחוז תמותה של 50% עד גיל 5 או עד גיל 6. תוחלת החיים כשאתה... חשב את הדברים האלה בפנים הגיעה לשלושים שנים במקומות מסוימים אין כל כך הרבה דברים התקדמו. ובזכות מה? מה הדת השתנתה? החברה השתנתה? מה שקרה זה שבאו הממציאים ובאו אנשי המדע והם גילו יותר ויותר ויותר על חיידקים ועל חיסונים ועל הדרך שהגוף עובד ועל הדרך שהטמוספירה עובדת... והסטטיסטיקאים ג'ון סנואו שהבינו מתי משאבות מתקלקלות ואיזה מחוברות לביוב ואז מתי חולרה מגיעה פתאום לכולם. ובזכות כל אלו אנחנו הגענו למקום שם בו אנחנו היום שאנחנו יכולים ל... והגענו כבר לירח ששלחנו שושיות למאדים ולכלל החיצון שעצרנו את. רוב מקרי המוות... הרגנו את השמאלפוקס, את הבעבורות השחורות, הכחדנו וירוס שהרג מיליונים לאורך ההיסטוריה האנושית. כל כך הרבה דברים עשינו, באמת. כשאני מסתכל על כל הדברים האלה שעשינו, אני אומר שוב, זה הכל הגיע בזכות... לא בזכות הכוח שלנו, אפילו לא בזכות הגודלים שלנו שיכולים לאחוז דברים עם הידיים, בזכות המוח שלנו. זה האיבר החשוב ביותר. אם אתה אומר לי שאתה יכול עכשיו להוסיף עשרה אחוזים לחישוביות של המוח, ליכולת שלנו להפיק יותר, זה דבר דרמטי. אם אתה אומר לי שאתה יכול לשפר את התפוקה של מדענים פי שניים, ואנחנו רואים מחקרים כאלה במדענים בהנדסת חומרים, בינה מלאכותית הגיעו ל... 83% יותר תפוקה בזכות זה. עכשיו, זה דבר... It's mind blowing. אתה מכפיל את קצב הפיתוח המדעי, ורגע... תגיד ב... אי, אבל יש קורולציה בין... סליחה, קטעתי אותך את השקר. -כן, כן, אבל בתחזיות של AII-2027, שזה דוח מרתק על העתיד של יוצאי OpenAI, הם בעצם אומרים שחברות הבינה המלאכותית המתקדמות ביותר כיום, הן לא עובדות על בינה מלאכותית לפיתוח תרופות. הן לא עובדות על בינה מלאכותית לחיזוי מזג האוויר או לכיבוש המאדים. הם עושים קצת את הדברים האלה אבל זה בשוליים. אם יבוא וירוס חדש, זה לא ייקח שנה עד שיהיה לנו חיסון, שזה קצב מטורף לעומת לפני 50 שנים, או אפילו לפני 20 שנים, אלא... שתוך שעתיים כבר בינה מלאכותית תביא את הסימולציה ל... המתאים ביותר, ותוך שבוע. לבדוק אותו על סימולציות נוספות ולבדוק בטיחות. בתוך עוד כמה חודשים נוכל לקבל אישור מצד ה-FDA. יהיו לנו בינות מלאכותיות שמסתכלות שעושות סימולציות של הגוף האנושי. יש לנו כבר עכשיו את זה. סימולציות של תאים אנושיים, יש לנו גם עכשיו גם את זה. יש לנו SC-GPT, Single Cell GPT שמדבר בשפת החלבונים וה-DNA והסוכרים והשומנים, נס שהיית נותן אותו לבן אדם ובין לילה הנקרוז הנמק החיידקים היו מתחילים לסגת. בן אדם שהיית חשב שהרופאים חשבו שהוא עומד למות בכל רגע, ואמרו זה נס שהוא מבריא, הרי שיהיו לנו תרופאים. כאלו של הנדסה גנטית וריפוי גני שאנחנו נוכל להשמש בבינה מלאכותית לפתח אותן, ולהתמודד עם הרבה מאוד מחלות כולל סרטן. לא כל דבר ודבר במיוחד בוודאי לא בהתחלה, אבל כן אנחנו נראה תרופות בקצב הולך וגובר. זה נס א', אוקיי אתה רוצה עוד נס אפשר להמשיך ככה עוד ועוד חיזוי אסונות. מאי פעם וככה נוכל להגן על עצמנו יותר. בחלל. אם אנחנו רואים אחרי. יוצאים מחקרים כאלה כל הזמן כן אבל עכשיו רשתות נוירונים למשל. נו מראש מנועי הול, אלה, אני פתוח שאני לא אוגה את זה, נכון, אבל אלה מנועים שעובדים בחלל. ובעצם עשו אלפי סימולציות וחסכו שנים של ניסויות תהייה למהנדסים. שמה המנועים האלה עושים? אאפשר להגיע מהר יותר? כן, נותנים Trust יותר חזק, יותר מהר, לאורך זמן. ואתה מתחיל להבין למה אני לא יכול להגיד מה יהיה בדיוק, אבל כל מה שאני יודע להגיד זה שאנחנו נכנסים לתקופה של ניסים, ומצד שני, אנחנו נכנסים לתקופה של זוועות. אני אדבר לרגע... -השתמשו בזה באותם טכנולוגיות, גם לעשות דברים... מטורף ומציא את כל העקרונות בעצמו. הוא מסתכל על כל המחקרים ואז הוא בונה עוד מחקר ומפרסם אותו ומקבל ביקורת וחוות דעת ועוד רעיונות וככה זה ממשיך וממשיך עד שיש לנו את... טכנולוגיה יוצאת דופן. אז זה לא נס, זה התקדמות הדרגתית. אני חושב שמה שאנחנו נתחיל לראות זה שבזכות הבינות המלאכותיות שיכולות לעשות את המחקרים האלו, לדבר עם עצמן, לעשות את זה אני יחסית בצורה סגורה ומבודדת,

Speaker 4 (38:38):
מה התפקיד של אנשים שם כאילו אני מניח שחלק מהדברים גם תוחלת החיים תגדלת זמן אנחנו. 150 שנה נשב רק בחוף.

Speaker 1 (38:47):
לנו מה לעשות זהו זה כאילו יש פה שתי שאלות אחד קודם כל. מעבר לתפקיד של ה... של הסופרוויזורי שדיברנו עליו קודם יש בעצם את עניין של להביא את הבעיות. זאת אומרת, עכשיו אם אני לא מבין את התכנית... ואני לא נמצא בתוך העולם הזה איך אני עכשיו מביא את הבעיות כמה אנשים.

Speaker 3 (39:09):
גם יכולים להביא בעיות ואז בעצם נשארת לך אוכלוסייה מאוד גדולה שגם אין לה מה לעשות זאת אומרת כאילו... מה זה להביא את הבעיות? למה הכוונה? בדוגמה שאמרת עם הרפואי, הצד הרפואי, יש עכשיו וירוס חדש. מישהו צריך ללכת למצוא את הווירוס החדש הזה לבוא ולהכניס אותו לתוך הבינה המלאכותית ולהגיד לו, תקשיב, הנה זה הווירוס תביא לי בעצם את התרופה, זה לא אוטונומית. זה הרמה של... ואוספת את הווירוס החדש, תשאלו איך. אבחן חברה רובוטים אוטונומיים ורובוטים אומנואידיים, דמויי אדם, מתקדמים בקצב הולך וגובר, אנחנו לא חשבנו ששוב לפני חמש שנים הקצב היה הרבה יותר איטי, עכשיו הקצב למעשה הכפיל את עצמו לפי חלק מהתחזיות, הציפייה שיעד 2033, שוק הרובוטים האומנואידים. כבר לשווי של בערך כמעט 30 מיליארד דולרים. ואנחנו רק רואים עוד ועוד דברים חדשים קורים. איפה אנחנו... עכשיו היה מרתון של 20 רובוטים... איפה אנחנו בתמונה? מה יעשו בני אדם מעבר לאחוז שיתפעל את המערכת הזאת? שני אחוז. קודם כל אני חושב שאתה רוצה להיות מהאנשים שמתפעלים את המערכות האלו, ואנחנו רוצים שהילדים שלנו יהיו אלה שיתפעלו את המערכות האלו, ולכן אנחנו צריכים ללמד אותם חשיבה ביקורתית, אנחנו צריכים ללמד אותם ניהול, ונותנים להם הנחיות. זה דבר ראשון. הדבר השני מה בדיוק בני אדם יעשו בעתיד כזה? זאת שאלה מצוינת ואנחנו לא יודעים בוודאות אבל אני רוצה לרגע לאתגר אותך. שסבא של סבא של סבא שלי. סבא של סבא של סבא הוא היה חקלאי, איך אני יודע שהוא היה חקלאי? כי זה סביר מאוד, כי רוב בעלי המקצוע היו חקלאים, כשסבא של סבא של סבא שלי היה חי.

Speaker 5 (41:52):
עכשיו, הוא עבד מהבוקר ה...

Speaker 3 (41:55):
עד הלילה, הוא עבד בימי שוק, הוא היה כאן בארבע בב... והוא היה חוזר הביתה. בלילה אחרי שהוא הביא את התבואה על השוק. זו הייתה עבודה נוראית, באמת, באמת, קשה מאוד, ארוכה מאוד גם, תפסה המון שעות. אם הייתי אומר לו שאני, הנכד של הנכד של הנכד, עובד במה? עובד כמה? מה, עובד... הכבוד, שמונה שעות ביום. שאה לי טובה. דו מי א פריקינג פייבור. אתם עושים אתם קמים בבוקר אתם מסתכלים ביוטיוב אתם מגיעים לעבודה אתם קוראים אימיילים אתם מדברים עם חברים אתם עושים במקרה טוב שלוש שעות של עבודה מאומצת באמת. וזהו. סליחה שאני משליח עליכם כן אבל. הרבה מאוד אנשים עובדים בעבודות שנקראות בולשיט ג'ובס סליחה זה המינוח המקצועי האמיתי שבעצם זה אומר שאתה כאילו עובד 8 שעות בתכלס אתה עובד באמת חזק שעתיים וזה מספיק כדי מה מעניין אתכם, מה אתם עושים? ואז הייתם מספרים לו על כל הדברים האחרים, שאתם מתחרים באנשים על לייקים ברשתות החברתיות, שאתם מחפשים בני ובנות זוג, שאתם מעסיקים את עצמכם חברים על הבר, ויש לנו... אנחנו מצליחים למצוא מה לעשות, למרות שאנחנו עובדים הרבה פחות לעומת סבא של סבא של סבא. ככה זה יהיה גם בעתיד. גם כשהבינה מלאכותית עושה את ה... תמיד אנחנו מודדים את עצמנו לעומת האחר. אני עדיין ארצה להיות יותר טוב ממך, יותר מרשים ממך, כי זה יביא לי את בני ובנות הזוג הטובים ביותר וזה יביא לי איזשהו ערך בכך שהאנשים יזמינו אותי למסיבות הטובות ביותר ויפלו לקינים יותר בשמחה. סליחה אם נלך יותר מדי לקופה אדם, אבל בסופו של דבר זה מה שאנחנו עדיין עמוק בפנים. אנחנו נמצא מה מעניין. גם כשהבינה מלכתית מאכילה אותנו מלבישה אותנו נותנת לנו מים והכל. אנחנו עדיין נמצא מה מעניין אותנו מה שמעניין אותנו זה להתחרות באחרים. אוקיי זה תובנה מעניינת אבל לפחות נעימה אופטימית. כן סיום אופטימי מה שנקרא. כן, מיוחד כי אין לי שיער אז מהקינים זה לא בעיה של... זה אתם צריכים הבינה מלכתית. המאזינים שלנו צריכים לדמיין את זה אבל כן קינים זאת לא הבעיה של רואי. הבעיות יכולות להיות אבל כבר חמש שנים, שבע שנים שהבינה המלאכותית. שנה כבר מרכיעה מעבר לתחזיות שלי ולמה שחשבתי. ככה בזהירות, ולכן אם זה ממשיך, אנחנו נדע באמת לאיזה כיוון אנחנו הולכים. ועוד דבר, הלינק יופיע אצלנו, אבל הלינק לבלוג שלך, אני מאוד מאוד ממליץ למי שמתעניין, בלוג בעברית, ברור, שפה מאוד ברורה, לא כבד, אבל מרתק. אני רוצה להוסיף עוד משהו קטן אחד, אנחנו בשבוע האחרון פתחנו ערוץ טלגרם חדש, ערוץ ומעכשיו כל יום הוא אוסף מהאינטרנט את כל הדברים המעניינים במדע ובטכנולוגיה מהיום האחרון וכותב עליהם בצורה מעניינת ומפרסם מדי חצי שעה. כן, זה לא ארוך מדי זה תמציתים, הלינקים והכל... כן. אבל זה הכל אוטומטי. וזה הכל אוטומטי. זה העולם שאנחנו נכנסים אליו. ואגב היום פתחנו גם את רוסית ערוץ עוד שני ערוצים

Speaker 2 (47:20):
שבועיים בפרק כבר נוציא עוד פרק מעניין אנחנו נמשיך להישאר בעולמות ה...