>>377615Gödel's theorem debunks the most important AI myth. AI will not be conscious | Roger Penrose (Nobel)[9:03 - 13:19]
- Чи ви шкодуєте, що це настільки потужно?
- Ну, це втрачає сенс.
Розумієте, я думаю, що сенс втрачено.
Я вважаю, що Тюрінг був не надто далекими від істини.
Знаєте, він був трохи розгубленою людиною, бо не було зрозуміло, у чому він переконаний.
Але він назвав цю річ тестом Тюрінга.
Як ви вирішуєте, чи є сутність свідомою чи ні?
Чи ви можете мати з нею розмову? Ви з нею розмовляєте.
- Можливо, ШІ—це нова галузь людського існування...
- Ні, йому бракує дещо чого.
Я думаю... Так, у цьому й проблема.
Розумієте, це все, я маю на увазі... Очевидно, що вонр має свою роль.
Я не збираюсь цього заперечувати.
Чітко, ця штука має свою роль. Воно має свою роль, але ви не повинні тут плутати:
той факт, що це має свою роль, пов'язано з обчислювальними потужностями.
Комп'ютери стали настільки потужними, що можуть робити ті речі, що набагато перевершують людські можливості щодо обчислювання, звісна річ.
Звичайно, ви можете взяти масу даних і проаналізувати ці дані, і побачити, про що вони свідчать.
І чи робить це те, що потрібно, відповідно до попередніх даних, чи ні...
І це все, що воно робить.
Воно не розуміє, що робить.
І розуміння відрізняється від обчислення даних.
- Чи це тому що всередині чорної скриньки є лише статистика? Це ця проста статистична машина, чи ні?
- Ну, якщо це машина, вона не має свідомості.
Ні, я... Я думаю, що люди втратили суть-затію, дійсно.
Ні, насправді це правда.
Розумієте, я написав свою книгу «Новий розум імператора»...
- Але що це означає—"люди втратили суть-затію"?
- Так, я думаю, що вони втратили суть, тому що головна ідея моєї тяглої думки полягала в тому, що ми повинні знайти щось у фізиці, розумієте?
Я вважаю, що я фізик, і я вірю, що все, що відбувається в наших головах, все, що створює свідомість, є частиною фізичного світу.
Я не вважаю, що "магія походить з хтозна-якої чорної скриньки".
Це також частина фізичної закономірності
- Але що ви маєте на увазі під чорною скринькою?
Ми знаємо, що на вході, ми знаємо, що на виході, але ми не маємо уявлення, що глибоко всередині, якою є ця чорна скринька...
- Так, але це не допомагає, тому що ви не знаєте, що всередині, яка фізика всередині цієї скриньки.
- Можливо, нова фізика?
- Так, але нова фізика певного типу.
Те, що я стверджую, з аргументу Геделя, розумієте, це суть-затія, яка, на мою думку, загубилась.
Я стверджую, що фізика, яка бере участь у свідомому мисленні, має бути необчислюваною фізикою.
Тепер, у фізиці, яку ми знаємо, є невеликий збій, тому що це не зовсім зрозуміло.
Але, наскільки ми можемо спостерігати, фізика, яку ми знаємо, є обчислюваною.
Розумієте?..
А як щодо загальної теорії відносності, де у нас є чудові машини, які конкурують з тим, що роблять чорні діри, коли вони обертаються по спіралі одна навколо одної та створюють сигнали гравітаційних хвиль, і ви можете сказати:
"Так, так, так, це зіткнення чорної діри, тому що це має цю дуже чітку особливість, так..."
Ви можете робити все це, це нормально.
Але... Це не те, про що я кажу.
Те, про що я кажу, це те, що фізика має бути фізикою, яка в принципі необчислювана.
Тому ШІ може випускати свої потужності скільки завгодно—він не зможе досягти "цього"...
Ви говорите про чорну скриньку, але ви не знаєте, що в цій скриньці.
Чи це комп'ютер?
Чи це комп'ютер такого типу, який ми розуміємо зараз?
Чи це щось, що включає "фізику, яка включає необчислюваний процес"?
Поки що ні.
Я не кажу, що цього не станеться.
Я боюся цього, бо не хочу, щоб це сталось.
Я нічого не можу з собою вдіяти, бо підозрюю, що це колись станеться.
Але це не той ШІ, яким ми його зараз знаємо."