איך המרכז החדש של UC ברקלי יכול למנוע א. אפוקליפסה

אוניברסיטת ברקלי רק הוסיף את שמו לרשימת גדלה של מוסדות מכובד עובד כדי למנוע מודיעין מלאכותי מרושע להרוס את האנושות. המרכז החדש שלה למודיעין בינה מלאכותית, שהוכרז ביום שני, נועד להבטיח כי א.י. נשאר מועיל, וגם כדי למנוע א. אפוקליפסה.

ברלי עצמו א. מומחה, פרופסור סטיוארט ראסל, מוביל את המיזם. פרויקט "פילנתרופיה פתוחה" העניק למרכז המרכז מענק בסך 5.5 מיליון דולר, ואחרים העניקו לו גם כן. כמה מומחים אחרים מברקלי, מאוניברסיטת קורנל ומאוניברסיטת מישיגן ישמשו כחוקרי מחקר ראשיים.

קורנל פרופסור בארט סלמאן אמר הפוך על המרכז, א.י.ס שאנחנו צריך פחד, ולמה העולם כנראה לא הולך לעזאזל בתוך תיק יד - עדיין.

מה אתם מקווים להשיג עם המרכז האנושי.

מרכזים אלה הם פיתוח חדש יחסית. אנשים עושים השקעות - מכון העתיד של החיים, למשל, מקבל השקעה מאלון מסק, מטסלה - כדי להתמודד עם השאלות הנוגעות לעתיד החיים, ואיומים אפשריים לעתיד החיים והחברה. המרכז החדש בברקלי הוא דוגמה נוספת למוסד כזה.

זה בהשראת התפקיד המשתנה של בינה מלאכותית מחשוב בחברה שלנו. טכנולוגיות אלה נעו לתוך החברה שלנו, תהיה השפעה עלינו. מכונים אלה נמצאים שם כדי להביא חוקרים יחד כדי לחקור השפעות שליליות אפשריות, או כיצד לוודא כי אין השפעות שליליות.

הכותרת של המרכז מציעה כי א. והאנושות אינם מתיישבים מטבעם. האם זו התצוגה שלך?

זו התגובה הראשונה שיש לאנשים, שהדברים האלה יכולים להיות בלתי תואמים. אנחנו באמת מאמינים כי, עם אמצעי הזהירות הנכונים, ואת ההנחיות הנכונות ומחקר, אנחנו יכולים באמת ליישר את האינטרסים ולוודא כי טכנולוגיות אלה מועילות. A.I. הטכנולוגיה יש צדדים חיוביים עצומים, ואת המטרה של החברה היא לוודא שאנחנו נשארים על הצדדים החיוביים. החוקרים המעורבים במכון מאמינים כי זה אפשרי.

אם אתה יכול לאמץ פרספקטיבה doomsayer, מה יהיה ככל הנראה תרחיש יום הדין.

סיכון ברור הוא התפתחות צבאית של בינה מלאכותית, שיכולה להוביל למירוץ חימוש בין המדינות: נשק אוטונומי, מל"טים אוטונומיים, אשר עוקבים אחר פקודותיהם, שפותחו על ידי מדינות שונות העוינות זו את זו. זה הסיכון הבולט ביותר שאני רואה. אני חושב א. שפותחה עבור מכוניות נהיגה עצמית, למשל - עבור תפקידים רגילים בחברה - יהיה מועיל מאוד. אבל ההיבט הצבאי הוא מרכיב מדאיג.

האם זה כבר קרב במעלה ההר?

מדינות שוקלות למעשה את הנושא הזה. במובן מסוים, זהו קרב כבד: הצבא דוחף קדימה לפתח את א. טכנולוגיה. אבל, היו הסכמים - למשל, נשק ביולוגי הוא כנראה המקרה הידוע ביותר - שבו מדינות בשלב כלשהו החליט כי זה ייהנה מכל המדינות לא לפתח נשק ביולוגי בקנה מידה גדול. אנו מקווים כי מדינות יבינו כי החיסרון, עבור כולם, הוא גדול מדי כדי להיכנס א. מרוץ חימוש.

אם שני הצדדים לפתח את הטכנולוגיה הזו, אף אחד לא קדימה.

האם יש עוד משהו שאני צריך לדעת על המרכז, או על א. בכללי?

חשוב לתת את הצד החיובי. זה קל להדגיש את הסיכונים - וכמובן, זה בחלקו מדוע מוקמים אלה מרכזים - אבל חשוב גם לציין כי הרבה חוקרים מרגישים כי הסיכון הזה הוא לניהול, וכי עליות יהיה עצום.

כבר נתת את נקודת המבט של יום הדין. מה הם כמה שימושים חיוביים פוטנציאליים של א. שאתה באמת מתרגש?

הצדדים החיוביים יהיו חברה שבה אנו נעזרים בטכנולוגיה זו. תרגומי דיבור סימולטני - בין סינית לאנגלית, למשל - שבו אנשים יכולים פשוט לשוחח, כאילו הם מדברים בשפה מקומית, אחד עם השני ברחבי העולם. טיפול קשישים: אנשים יכולים להישאר כל עוד הם רוצים בבית שלהם, כי יש להם רובוט עוזר משק הבית המסייע להם לחיות באופן עצמאי.

זה יהיה כנראה יש השפעה דרמטית למדי על החיים בכלל - בכל הנוגע לתעסוקה, ומה אנחנו סדר עדיפויות.

כן. יש את הדיון התעסוקתי, וזה סוג של דיון נפרד קורה. יהיו מספיק משאבים כדי לתמוך בכולם, אז יש את הנושא של איך אנחנו מוודאים שכולם מרוויח מהתפתחויות אלה. תהיה הבנה מחדש של מה זה אומר לעבוד, איזה סוג של עבודה אנשים יעשו. אבל באופן עקרוני, אנשים יהיו יותר חופש, ועוד זמן לעשות פעילויות שהם נהנים לעשות, כי המכונות יעזור עם רבים אחרים ארציים יותר, עבודה סוג הדברים. זה ייקח קצת זמן, אבל אנחנו מאמינים החברה תתאים, ולאט לאט לשלב את השינויים האלה.

ראיון זה נערך עבור בהירות וקיצור.