פרויקט OpenAI של אילון מאסק זיהה 4 בעיות גדולות עבור AI

OpenAI Plays Hide and Seek…and Breaks The Game! 🤖

תוכן עניינים:

מציאת מערכות AI חשאיות.
בניית א. כי התוכנית.
שימוש ב- A.I. עבור הגנה סייבר.
ביצוע סימולציות מורכבות באמת.

רוב הבעיות שעשויות להיות תוצאה של אינטליגנציה מלאכותית מתוחכמת יותר, הן הרבה יותר מתוחכמות מאשר סקיינט, אבל זה לא אומר שאני חכם יותר. אינה באה ללא סיכונים.

לכן אילון מוסק ושאר עמיתי הסיליקון הקימו ארגון AI פתוח, שהוקדש לפתרון בעיות עם א.י. לפני שהם יכולים לגרום נזק אמיתי. קבוצה זו נקראת OpenAI, והיא מחפשת עזרה בנושאים אלה.

"OpenAI היא חברה ללא כוונת רווח לחקר בינה מלאכותית", אומרת הקבוצה בעמוד שלה. "המטרה שלנו היא לקדם את האינטליגנציה הדיגיטלית באופן שבו יש סיכוי גבוה ביותר להועיל לאנושות כולה, ללא צורך בהפקת תשואה פיננסית".

פרסום עבודה מחופש לפוסט בבלוג שכותרתו "פרויקטים מיוחדים" מתאר ארבעה "פרויקטים" כאלה כבעיות שיש להן "השלכות רחבות מאוד" או ש"נשלחות להשלכות חשובות של פיתוח AI ". ואז סופריה - איליה סוטסקבר, דריו Amodei, וסם אלטמן - להזמין כל מכונה חזקה למידה מומחים "להתחיל מאמץ על אחת הבעיות הללו ב OpenAI." רק להגיש בקשה, הם שואלים. הנה אלה ארבע הבעיות הגדולות מול אינטליגנציה מלאכותית:

מציאת מערכות AI חשאיות.

מה יותר גרוע מאשר א חכם מאוד. זה יכול לשמש למטרה הלא נכונה? א חכם מאוד א. זה כבר נעשה שימוש למטרה שגויה בלי שמישהו ידע. "ככל שמספר הארגונים והמשאבים המוקצים למחקר AI גדל, ההסתברות מגדילה שארגון יעשה פריצת דרך בלתי ידועה במערכת ה- AI ויעשה שימוש במערכת למטרות פוטנציאליות זדוניות", כותב צוות ה- OpenAI בבלוג שלו. "זה נראה חשוב לזהות את זה. אנחנו יכולים לדמיין הרבה דרכים לעשות זאת - להסתכל על החדשות, השווקים הפיננסיים, משחקים מקוונים וכו '".

בניית א. כי התוכנית.

כמה מתכנתים הטובים ביותר הם עצלן. אז זה הגיוני כי OpenAI רוצה ליצור AI. המסוגל ליצור תוכניות בפני עצמו. מוטב לבלות את הזמן בביצוע א. חכם מספיק כדי קוד כל מה שאתה צריך אולי בעתיד מאשר קוד כל הדברים האלה בעצמך. זה 2016, עבור בוכה בקול רם, coders צריך הפסקה!

שימוש ב- A.I. עבור הגנה סייבר.

"שימוש מוקדם של AI יהיה לפרוץ למערכות מחשב", כותב OpenAI. "אנחנו רוצים טכניקות AI כדי להגן מפני האקרים מתוחכמים עושה שימוש רב בשיטות AI." זה נשמע טוב, במיוחד מאז MIT הזהיר כי הנוכחי א. מסתמך על בני אדם כדי להגן מפני cyberattacks.

ביצוע סימולציות מורכבות באמת.

"אנחנו מעוניינים בבניית סימולציה גדולה מאוד עם הרבה סוכנים שונים בה יכולים לתקשר זה עם זה, ללמוד על פני תקופה ארוכה של זמן, לגלות שפה, ולהשיג מגוון עשיר של מטרות", כותב צוות OpenAI.

אוי בחייך. עכשיו אתם פשוט מנסים להוכיח שמוסק צודק לגבינו שאנחנו חיים בסימולציה.