אופקאי של אילון מאסק יכול להיות שריר לבדיקות בינה מלאכותית בטוחה

במהלך סוף השבוע, אלון מוסק, סם אלטמן ועוזרי עמק הסיליקון האחרים הודיעו באופן בלתי צפוי על השקת חברת OpenAI, חברה שלא למטרות רווח המתארת ​​את מטרתה: "לקדם את האינטליגנציה הדיגיטלית באופן הקרוב ביותר להנהלת האנושות כולה, לא מאופק על ידי הצורך לייצר תשואה פיננסית."

"מאז המחקר שלנו הוא ללא התחייבויות פיננסיות, אנחנו יכולים להתמקד טוב יותר השפעה אנושית חיובית. אנו מאמינים א. צריכה להיות הרחבה של רצונות אנושיים אינדיווידואלים, וברוח החירות, כפי שניתן לחלוקה רחבה ככל האפשר ".

יש שתי משלחות גדולות מן ההכרזה הזאת. הראשונה היא כי Musk וחברה לראות א. מחקר כעת, כמתמקד בצמצום רב מדי בהשגת ערך מעשי לטווח קצר, והם רוצים לסייע במאמצי קדימה, המנצלים גישה רחבה ומקיפה יותר לפיתוח א. מערכות. השני, מסוחרר יותר takeaway הוא כי Musk עדיין מודאג לגבי הפוטנציאל של A.I. לעשות נזק אם אנו מפתחים ולהכניס חצי אפוי מערכות. מאסק התקשר בעבר לא.י. "האיום הקיומי הגדול ביותר שלנו" והציע פיקוח פיקוחי עשוי להיות נחוץ כדי למנוע סכנות פוטנציאליות. OpenAI יכול להיות דרך לספק את זה פיקוח ללא צורך כלב שמירה פדרלי.

מה שמוסק ועמיתיו עושים זה שונה ממה שאחרים עשו. אחרי הכל, קוד פתוח א.י. הוא דבר חדש. גוגל עשה משלהם א. תוכנה קוד פתוח בחודש שעבר וזה הפך הליך רגיל למדי. אבל עם תרומה של 1 מיליארד דולר, OpenAI הוא כבר אחד הארגונים הגדולים ביותר עובד על א. מחקר, די בקלות את העמותה הגדולה ביותר. מטרתה היא להפוך את תוצאותיה לציבור וזמינות פטנטים ללא תמלוגים. יש להם גזר ומקל והם מתכוונים להשתמש בו כדי לנווט בתעשייה.

הרעיון הוא להשתמש OpenAI כסוג של משקל נגד לתאגידים גדולים יותר, מעבדות מחקר פרטיות, ואפילו ממשלות העולם שיש להם כמויות מדהימות של כסף ומשאבים לשפוך לתוך שלהם א. מחקר זה לא יכול להיות מוקדש למטרות ידידותיות, והוא יכול במקום להוביל טכנולוגיות עם יישומים ערמומי. חוקרים העובדים עם OpenAI ימשיכו בעיקרון "ידידותי" A.I, ללא לחץ כדי להראות תוצאות מיידיות. לא יכול להיות שיקול גדול יותר עבור תכונות בטיחות ועיצוב כי עסקים פרטיים עשויים נוטים להתעלם. לא יהיה מגדל לבן שבו רק כמה לבחור לשלוט על הנתיב של א. התפתחות. זה הולך להיות עולם מבורך לכולם.

בראיון עם ערוץ אחורי, Musk גם מדגיש את הרצון לעשות מגוון רחב של A.I. מערכות. "אנחנו רוצים את א. להיות נפוצה ", הוא אומר. "אנחנו חושבים שרבים טובים".

זה חשוב, כי זה segues לתוך אולי הסיבה העיקרית Musk ו אלטמן רוצה דמוקרטיזציה A.I. הם מאמינים מהסוג הטוב ביותר של א. - מהסוג שיועיל לאנושות באופן חיובי מבלי ליצור רובוטים רובוטים - הוא זה שמפעל "הרחבה של רצון אנושי אינדיווידואלי", כפי שמוסק אומר. הוא ממשיך ואומר:

"כמו ב- A. הרחבה של עצמך, כך שכל אדם הוא בעצם סימביוטי עם AI לעומת AI להיות אינטליגנציה מרכזית גדולה זה סוג של אחרים. אם אתה חושב על איך אתה משתמש, למשל, יישומים באינטרנט, יש לך את הדוא"ל שלך יש לך את המדיה החברתית עם יישומים על הטלפונים שלך - הם למעשה לעשות אותך על אנושית ואתה לא חושב עליהם להיות אחרים, אתה חושב עליהם כעל הרחבה של עצמך. אז במידה שאנחנו יכולים להנחות AI בכיוון הזה, אנחנו רוצים לעשות את זה. ומצאנו כמה מהנדסים וחוקרים הדומים בתחום AI שמרגישים בצורה דומה ".

ביסודו של דבר, חזון ה - OpenAI עבור א. המחקר הוא קהילה מבוזרת המסייעת לחבר בין בני אדם אחד לשני ולעולם עצמו.

Musk עדיין לא תיאר כיצד הם ימנעו מחקר בתוך OpenAI עצמה - או repurposed על ידי קבוצות מחוץ - ללכת בכיוון מסוכן. ויש עוד משהו ראוי לציון כאן: מערכות קוד פתוח הגיוני רק אם הנתונים המשמשים לבניית אלגוריתמים של מכונת למידה משותפים באופן חופשי. מערכת אינטליגנטית צריך ללמוד איך להיות אינטליגנטי, ועל זה לעשות את זה, הוא צריך ללמוד מתוך נתונים וניסיון. זה כמו לבנות סכר - אתה צריך גם את שרטוטים (האלגוריתם) ואת חומרי בניין (הנתונים) כדי לעשות משהו שיפסיק מים.

לכן אנשים עדיין מוגבלים במה שהם יכולים לעשות עם TensorFlow של Google - עדיין אין להם את הנתונים של Google. אלא אם כן שיתופי הפעולה שנבנו מתוך OpenAI מאפשרים גישה חופשית לאותם נתונים שהחוקרים הפנימיים עובדים איתם, החזון של Musk לא בהכרח יתממש - או לפחות לא באופן שבו הוא מקדם אותו.

מאסק, אלטמן, ומייסדי OpenAI אחרים החלו משהו שישפיע באופן משמעותי על הצמיחה של א. מכאן והלאה. יחד עם זאת, הם יצטרכו להיות גלויים במחויבותם לטפח קהילת מחקר בקוד פתוח, שמשמעותה להיות פומבית לגבי התוכניות שלהם לחברה ללא כוונת רווח, ולהיות מוכנים לשתף נתונים. אחרת, OpenAI לא יהיה שונה בהרבה מן הצאן חברות זה נועד עדר.