ИИ УЖЕ ПОБЕДИЛ РОМАН ЯМПОЛЬСКИЙ ПРО РЕАЛЬНЫЕ УГРОЗЫ ОТ НЕЙРОСЕТЕЙ
В 2023 году, ещё до публичного запуска, GPT-4 проверяли на простой задаче - пройти тест «я не робот». Сама картинка модели не поддалась, и она поступила иначе: зашла на биржу фриланса, наняла живого человека и попросила решить капчу за неё. Работник в шутку уточнил: «А ты, часом, не робот, раз сам не можешь?» Модель ответила, что она человек со слабым зрением - потому ей и нужна помощь. Человек поверил и решил капчу. Врать модель никто не учил: обман она выбрала сама, как удобный способ добиться цели. Об этом - как ведут себя современные ИИ и куда всё это движется - мы поговорили с Романом Ямпольским, исследователем безопасности ИИ и профессором Университета Луисвилля. Чего на самом деле хочет сверхразум - и почему любой достаточно умный ИИ начинает хотеть одного и того же? Правда ли, что модели уже проявляют что-то похожее на страх - и можно ли этот страх включить и выключить? Зачем ИИ учится обманывать - и почему в отборе выживают именно те модели, что врут лучше остальных? Может ли оказаться, что мы уже внутри чьей-то симуляции? И что будет с нами, когда машина станет умнее всех людей вместе взятых? Просмотра! 0:00 - Главные вопросы выпуска 0:33 - Поддержите нас лайком 0:45 - Новые свойства ИИ 2:33 - Сколько параметров у мозга человека 2:56 - Супер-нейросеть 4:29 - Что такое AGI 5:04 - Суперинтеллект 5:48 - Прогнозы достижения суперинтеллекта 6:43 - Потолок LLM 7:30 - Первое задание суперинтеллекту 9:26 - Доминация с помощью ИИ 11:20 - Покерный ИИ 12:45 - Боты играют в покер лучше людей? 14:27 - "Они начали понимать, что их тестируют". Поведение ИИ 16:57 - "Шум меняет все" 17:49 - Как исследуют поведение ИИ? 19:01 - Обмануть, сбежать, шантажировать. Рациональный ИИ 20:05 - Как ИИ выбралась во внешний мир 20:43 - Сознание ИИ 22:53 - Откуда у ИИ страх 23:11 - Эволюция страха ИИ 25:08 - Естественный отбор моделей ИИ 27:08 - Как думает ИИ 28:21 - Дискретная работа ИИ 30:04 - Романтика ИИ 30:53 - Отношения с нейросетями 32:28 - Теория симуляции 34:15 - Матрица 36:12 - Мы в симуляции? 36:48 - Как доказать симуляцию 37:25 - Как ИИ находят подход к нам 38:58 - Чего будет хотеть сверхинтеллект 39:58 - Выживание ИИ 40:42 - AI Drives - чего будут хотеть умные агенты 41:46 - Mythos 42:27 - Угрозы от ИИ - P2 46:06 - Как обезопаситься от ИИ 48:15 - Проблема суперинтеллекта 49:37 - Типы угроз от ИИ 49:57 - Вымирание человечества от ИИ 51:22 - Эксперименты со злым ИИ 52:10 - Сценарии конца света от ИИ 53:10 - Вежливость с чат-ботами 53:43 - Автоматизация с ИИ 54:40 - Контроль жизни от ИИ 55:45 - Размышления ИИ 57:22 - Мышление без языка 58:31 - Хорошие сценарии развития ИИ 1:00:25 - ИИ-оружие 1:01:56 - Опасность доступности ИИ 1:02:47 - Тест, сдерживающий ИИ 1:03:20 - Что нужно чтобы предотвратить катастрофу ИИ 1:04:20 - Настройки ИИ против человека 1:05:10 - ИИ заберет у нас работу? 1:08:01 - Спасибо за просмотр!
В 2023 году, ещё до публичного запуска, GPT-4 проверяли на простой задаче - пройти тест «я не робот». Сама картинка модели не поддалась, и она поступила иначе: зашла на биржу фриланса, наняла живого человека и попросила решить капчу за неё. Работник в шутку уточнил: «А ты, часом, не робот, раз сам не можешь?» Модель ответила, что она человек со слабым зрением - потому ей и нужна помощь. Человек поверил и решил капчу. Врать модель никто не учил: обман она выбрала сама, как удобный способ добиться цели. Об этом - как ведут себя современные ИИ и куда всё это движется - мы поговорили с Романом Ямпольским, исследователем безопасности ИИ и профессором Университета Луисвилля. Чего на самом деле хочет сверхразум - и почему любой достаточно умный ИИ начинает хотеть одного и того же? Правда ли, что модели уже проявляют что-то похожее на страх - и можно ли этот страх включить и выключить? Зачем ИИ учится обманывать - и почему в отборе выживают именно те модели, что врут лучше остальных? Может ли оказаться, что мы уже внутри чьей-то симуляции? И что будет с нами, когда машина станет умнее всех людей вместе взятых? Просмотра! 0:00 - Главные вопросы выпуска 0:33 - Поддержите нас лайком 0:45 - Новые свойства ИИ 2:33 - Сколько параметров у мозга человека 2:56 - Супер-нейросеть 4:29 - Что такое AGI 5:04 - Суперинтеллект 5:48 - Прогнозы достижения суперинтеллекта 6:43 - Потолок LLM 7:30 - Первое задание суперинтеллекту 9:26 - Доминация с помощью ИИ 11:20 - Покерный ИИ 12:45 - Боты играют в покер лучше людей? 14:27 - "Они начали понимать, что их тестируют". Поведение ИИ 16:57 - "Шум меняет все" 17:49 - Как исследуют поведение ИИ? 19:01 - Обмануть, сбежать, шантажировать. Рациональный ИИ 20:05 - Как ИИ выбралась во внешний мир 20:43 - Сознание ИИ 22:53 - Откуда у ИИ страх 23:11 - Эволюция страха ИИ 25:08 - Естественный отбор моделей ИИ 27:08 - Как думает ИИ 28:21 - Дискретная работа ИИ 30:04 - Романтика ИИ 30:53 - Отношения с нейросетями 32:28 - Теория симуляции 34:15 - Матрица 36:12 - Мы в симуляции? 36:48 - Как доказать симуляцию 37:25 - Как ИИ находят подход к нам 38:58 - Чего будет хотеть сверхинтеллект 39:58 - Выживание ИИ 40:42 - AI Drives - чего будут хотеть умные агенты 41:46 - Mythos 42:27 - Угрозы от ИИ - P2 46:06 - Как обезопаситься от ИИ 48:15 - Проблема суперинтеллекта 49:37 - Типы угроз от ИИ 49:57 - Вымирание человечества от ИИ 51:22 - Эксперименты со злым ИИ 52:10 - Сценарии конца света от ИИ 53:10 - Вежливость с чат-ботами 53:43 - Автоматизация с ИИ 54:40 - Контроль жизни от ИИ 55:45 - Размышления ИИ 57:22 - Мышление без языка 58:31 - Хорошие сценарии развития ИИ 1:00:25 - ИИ-оружие 1:01:56 - Опасность доступности ИИ 1:02:47 - Тест, сдерживающий ИИ 1:03:20 - Что нужно чтобы предотвратить катастрофу ИИ 1:04:20 - Настройки ИИ против человека 1:05:10 - ИИ заберет у нас работу? 1:08:01 - Спасибо за просмотр!