Джеффри Хинтон: ИИ — это новая промышленная революция

00:01Мне просто на вас смотреть, когда Мне просто на вас смотреть, когда говорю? Да, просто всё время смотрим говорю? Да, просто всё время смотрим говорю? Да, просто всё время смотрим друг на друга. Если только вы не хотите друг на друга. Если только вы не хотите друг на друга. Если только вы не хотите сделать какое-нибудь заявление, мы все сделать какое-нибудь заявление, мы все сделать какое-нибудь заявление, мы все умрём. умрём. умрём. Умная девушка. Умная девушка. Умная девушка. Глупые вопросы. Каково наше будущее Сыи? Глупые вопросы. Каково наше будущее Сыи? Глупые вопросы. Каково наше будущее Сыи? И что вообще такое Ии? И она и Мараза. И что вообще такое Ии? И она и Мараза.

00:18И что вообще такое Ии? И она и Мараза. Это умная девушка, глупые вопросы. И Это умная девушка, глупые вопросы. И Это умная девушка, глупые вопросы. И сегодня мой гость профессор Джефри сегодня мой гость профессор Джефри сегодня мой гость профессор Джефри Хинтон. Он полвека работал в области Хинтон. Он полвека работал в области Хинтон. Он полвека работал в области искусственного интеллекта и машинного искусственного интеллекта и машинного искусственного интеллекта и машинного обучения, что принесло ему премию обучения, что принесло ему премию обучения, что принесло ему премию Тюринга в восемнадцатом году. Тюринга в восемнадцатом году.

00:29Тюринга в восемнадцатом году. Нобелевскую премию в двадцать четвёртом Нобелевскую премию в двадцать четвёртом Нобелевскую премию в двадцать четвёртом и прозвище, Заветное прозвище Крёстный и прозвище, Заветное прозвище Крёстный и прозвище, Заветное прозвище Крёстный отец. Ии. Какое из этих званий вам отец. Ии. Какое из этих званий вам отец. Ии. Какое из этих званий вам нравится больше всего? Очевидно, нравится больше всего? Очевидно, нравится больше всего? Очевидно, Нобелевская премия. Лауреат Нобелевской Нобелевская премия. Лауреат Нобелевской Нобелевская премия. Лауреат Нобелевской премии. Вы также заслуженный профессор премии. Вы также заслуженный профессор

00:42премии. Вы также заслуженный профессор университета Торонто, где преподавали и университета Торонто, где преподавали и университета Торонто, где преподавали и сотрудничали с некоторыми из самых сотрудничали с некоторыми из самых сотрудничали с некоторыми из самых выдающихся умов в таких компаниях, как выдающихся умов в таких компаниях, как выдающихся умов в таких компаниях, как Open, AI, Мета и так далее. Но я Open, AI, Мета и так далее. Но я Open, AI, Мета и так далее. Но я смотрела вашу речь, вашу Нобелевскую смотрела вашу речь, вашу Нобелевскую смотрела вашу речь, вашу Нобелевскую речь, и вы предупреждали о рисках. И я речь, и вы предупреждали о рисках. И я

00:55речь, и вы предупреждали о рисках. И я хочу проиграть небольшой фрагмент аудио хочу проиграть небольшой фрагмент аудио хочу проиграть небольшой фрагмент аудио из неё в ближайшем будущем. И может быть из неё в ближайшем будущем. И может быть из неё в ближайшем будущем. И может быть использован для создания ужасных новых использован для создания ужасных новых использован для создания ужасных новых вирусов и чудовищного смертельного вирусов и чудовищного смертельного вирусов и чудовищного смертельного оружия, которое само решает, кого убить оружия, которое само решает, кого убить оружия, которое само решает, кого убить или покалечить. Все эти краткосрочные или покалечить. Все эти краткосрочные

01:11или покалечить. Все эти краткосрочные риски требуют срочного и решительного риски требуют срочного и решительного риски требуют срочного и решительного внимания со стороны правительств и внимания со стороны правительств и внимания со стороны правительств и международных организаций. международных организаций. международных организаций. Существует также более долгосрочная Существует также более долгосрочная Существует также более долгосрочная экзистенциальная угроза, которая экзистенциальная угроза, которая экзистенциальная угроза, которая возникает, когда мы создаём цифровых возникает, когда мы создаём цифровых возникает, когда мы создаём цифровых существ, более разумных, чем мы сами. Мы

01:27существ, более разумных, чем мы сами. Мы существ, более разумных, чем мы сами. Мы понятия не имеем, сможем ли мы понятия не имеем, сможем ли мы понятия не имеем, сможем ли мы удерживать контроль. удерживать контроль. удерживать контроль. Вы, очевидно, говорите и о пользе и но Вы, очевидно, говорите и о пользе и но Вы, очевидно, говорите и о пользе и но пока вы говорили речь, люди просто ели пока вы говорили речь, люди просто ели пока вы говорили речь, люди просто ели пресные шведские фрикадельки и избегали пресные шведские фрикадельки и избегали пресные шведские фрикадельки и избегали зрительного контакта друг с другом. На зрительного контакта друг с другом. На

01:43зрительного контакта друг с другом. На самом деле, я думаю, что шеф повара, самом деле, я думаю, что шеф повара, самом деле, я думаю, что шеф повара, удостоенные звёзд мишлен, которые удостоенные звёзд мишлен, которые удостоенные звёзд мишлен, которые приготовили это блюдо, были бы весьма приготовили это блюдо, были бы весьма приготовили это блюдо, были бы весьма раздражены тем, что вы назвали их раздражены тем, что вы назвали их раздражены тем, что вы назвали их пресными. Хорошо, они были непресными, пресными. Хорошо, они были непресными, пресными. Хорошо, они были непресными, но я ожидала, что в зале воцарится но я ожидала, что в зале воцарится

01:56но я ожидала, что в зале воцарится тишина, когда вы говорите такие вещи. тишина, когда вы говорите такие вещи. тишина, когда вы говорите такие вещи. Да, не особо. И как вы это объясняете? Да, не особо. И как вы это объясняете? Да, не особо. И как вы это объясняете? Людям очень трудно воспринимать угрозу и Людям очень трудно воспринимать угрозу и Людям очень трудно воспринимать угрозу и всерьёз. Даже мне трудно воспринимать её всерьёз. Даже мне трудно воспринимать её всерьёз. Даже мне трудно воспринимать её всерьёз эмоционально. всерьёз эмоционально. всерьёз эмоционально. Это не похоже на угрозу ядерного оружия, Это не похоже на угрозу ядерного оружия,

02:13Это не похоже на угрозу ядерного оружия, где очень легко понять что-то, что где очень легко понять что-то, что где очень легко понять что-то, что взрывается и уничтожает людей. взрывается и уничтожает людей. взрывается и уничтожает людей. Гораздо труднее понять, что мы можем Гораздо труднее понять, что мы можем Гораздо труднее понять, что мы можем создавать инопланетные существа, которые создавать инопланетные существа, которые создавать инопланетные существа, которые умнее нас. Это просто кажется научной умнее нас. Это просто кажется научной умнее нас. Это просто кажется научной фантастикой. И люди не воспринимают это фантастикой. И люди не воспринимают это

02:28фантастикой. И люди не воспринимают это всерьёз. Вы эксперт, и мне важно, чтобы всерьёз. Вы эксперт, и мне важно, чтобы всерьёз. Вы эксперт, и мне важно, чтобы люди услышали ваши опасения, приняли их люди услышали ваши опасения, приняли их люди услышали ваши опасения, приняли их всерьёз и при этом критически всерьёз и при этом критически всерьёз и при этом критически осмысливали. Но я хочу начать с базового осмысливали. Но я хочу начать с базового осмысливали. Но я хочу начать с базового вопроса. Что вообще такое искусственный вопроса. Что вообще такое искусственный вопроса. Что вообще такое искусственный интеллект? Я много говорю с людьми оби, интеллект? Я много говорю с людьми оби,

02:44интеллект? Я много говорю с людьми оби, что многие из нас, включая меня, не до что многие из нас, включая меня, не до что многие из нас, включая меня, не до конца понимают, что это такое. Вы конца понимают, что это такое. Вы конца понимают, что это такое. Вы согласны? Да. Большинство людей, которые согласны? Да. Большинство людей, которые согласны? Да. Большинство людей, которые рассуждают аи, на самом деле не рассуждают аи, на самом деле не рассуждают аи, на самом деле не понимают, как он работает. И когда вы понимают, как он работает. И когда вы понимают, как он работает. И когда вы сидите на интервью, у вас часто сидите на интервью, у вас часто

02:56сидите на интервью, у вас часто возникает ощущение, что собеседник возникает ощущение, что собеседник возникает ощущение, что собеседник действительно понимает, как всё это действительно понимает, как всё это действительно понимает, как всё это устроено. устроено. устроено. Иногда да, иногда нет, но чаще нет. А Иногда да, иногда нет, но чаще нет. А Иногда да, иногда нет, но чаще нет. А когда нет, они спрашивают вас очень когда нет, они спрашивают вас очень когда нет, они спрашивают вас очень редко, чтобы задать рамку обсуждения. Я редко, чтобы задать рамку обсуждения. Я редко, чтобы задать рамку обсуждения. Я думаю об и так. Аграрная революция, думаю об и так. Аграрная революция,

03:12думаю об и так. Аграрная революция, индустриальная революция, революция. И индустриальная революция, революция. И индустриальная революция, революция. И это очень хороший способ взглянуть на это очень хороший способ взглянуть на это очень хороший способ взглянуть на ситуацию. Да, масштаб именно такой. ситуацию. Да, масштаб именно такой. ситуацию. Да, масштаб именно такой. Хорошо, значит, интернет не был Хорошо, значит, интернет не был Хорошо, значит, интернет не был революцией, не в таком масштабе. революцией, не в таком масштабе. революцией, не в таком масштабе. И эта революция будет медленный, но И эта революция будет медленный, но

03:27И эта революция будет медленный, но меняющий мир как аграрная, меняющий мир как аграрная, меняющий мир как аграрная, или быстрой и жёсткой, как или быстрой и жёсткой, как или быстрой и жёсткой, как индустриальная. индустриальная. индустриальная. гораздо больше похожий на гораздо больше похожий на гораздо больше похожий на индустриальную. индустриальную. индустриальную. Индустриальная революция, например, Индустриальная революция, например, Индустриальная революция, например, заменила огромное количество заменила огромное количество заменила огромное количество сельскохозяйственного труда, а эта сельскохозяйственного труда, а эта

03:43сельскохозяйственного труда, а эта революция заменит большое количество революция заменит большое количество революция заменит большое количество рутинного интеллектуального труда. Это рутинного интеллектуального труда. Это рутинного интеллектуального труда. Это приведёт к серьёзным изменениям на рынке приведёт к серьёзным изменениям на рынке приведёт к серьёзным изменениям на рынке труда. И многие опасаются, что это может труда. И многие опасаются, что это может труда. И многие опасаются, что это может вызвать массовую безработицу. Мы вызвать массовую безработицу. Мы вызвать массовую безработицу. Мы обязательно к этому вернёмся и обязательно к этому вернёмся и

03:55обязательно к этому вернёмся и поговорим, в том числе, о поколениях поговорим, в том числе, о поколениях поговорим, в том числе, о поколениях миллениалов и зд. Стоит ли вообще миллениалов и зд. Стоит ли вообще миллениалов и зд. Стоит ли вообще заводить детей в таком мире? Это большой заводить детей в таком мире? Это большой заводить детей в таком мире? Это большой вопрос, который у меня к вам есть. вопрос, который у меня к вам есть. вопрос, который у меня к вам есть. Но сначала, что такое искусственный Но сначала, что такое искусственный Но сначала, что такое искусственный интеллект? Примерно в 1950 году интеллект? Примерно в 1950 году

04:09интеллект? Примерно в 1950 году существовало два принципиально разных существовало два принципиально разных существовало два принципиально разных подхода к созданию интеллектуальных подхода к созданию интеллектуальных подхода к созданию интеллектуальных систем. систем. систем. Первый, так называемый символический ии, Первый, так называемый символический ии, Первый, так называемый символический ии, где моделью интеллекта была логика. где моделью интеллекта была логика. где моделью интеллекта была логика. Например, Сократ человек, все люди Например, Сократ человек, все люди Например, Сократ человек, все люди смертные, значит, Сократ смертен. Это смертные, значит, Сократ смертен. Это

04:28смертные, значит, Сократ смертен. Это способ выводить новые факты из уже способ выводить новые факты из уже способ выводить новые факты из уже известных. Логика. Чистая логика. Многие известных. Логика. Чистая логика. Многие известных. Логика. Чистая логика. Многие считали, что именно так и должен считали, что именно так и должен считали, что именно так и должен работать интеллект, через логические работать интеллект, через логические работать интеллект, через логические выводы. Но существовал и совершенно выводы. Но существовал и совершенно выводы. Но существовал и совершенно другой подход. Он исходил из того, что другой подход. Он исходил из того, что

04:44другой подход. Он исходил из того, что единственное, по-настоящему разумное, единственное, по-настоящему разумное, единственное, по-настоящему разумное, что мы знаем - это человек. что мы знаем - это человек. что мы знаем - это человек. А человеческий мозг работает за счёт А человеческий мозг работает за счёт А человеческий мозг работает за счёт изменения силы связей между нейронами. изменения силы связей между нейронами. изменения силы связей между нейронами. Так, возможно, стоит сосредоточиться не Так, возможно, стоит сосредоточиться не Так, возможно, стоит сосредоточиться не на том, если в голове какая-то логика, а на том, если в голове какая-то логика, а

04:58на том, если в голове какая-то логика, а на том, как меняется сила связи между на том, как меняется сила связи между на том, как меняется сила связи между нейронами. нейронами. нейронами. И может ли это привести к появлению И может ли это привести к появлению И может ли это привести к появлению интеллекта? И что особенно важно, интеллекта? И что особенно важно, интеллекта? И что особенно важно, вероятно, не стоит начинать с вероятно, не стоит начинать с вероятно, не стоит начинать с рассуждений. Биологически рассуждения рассуждений. Биологически рассуждения рассуждений. Биологически рассуждения появились очень поздно. Задолго до этого появились очень поздно. Задолго до этого

05:14появились очень поздно. Задолго до этого мы умели воспринимать мир, управлять мы умели воспринимать мир, управлять мы умели воспринимать мир, управлять своим телом. Возможно, стоит своим телом. Возможно, стоит своим телом. Возможно, стоит сосредоточиться именно на этом, ведь сосредоточиться именно на этом, ведь сосредоточиться именно на этом, ведь именно для этого мозг эволюционировал именно для этого мозг эволюционировал именно для этого мозг эволюционировал задолго до появления сложного мышления. задолго до появления сложного мышления. задолго до появления сложного мышления. Вы сказали, что мозг меняет силу связей Вы сказали, что мозг меняет силу связей

05:26Вы сказали, что мозг меняет силу связей между клетками. Да. И это умели делать между клетками. Да. И это умели делать между клетками. Да. И это умели делать ещё охотники-собиратели. ещё охотники-собиратели. ещё охотники-собиратели. Все люди умеют это видеть, воспринимать. Все люди умеют это видеть, воспринимать. Все люди умеют это видеть, воспринимать. То есть вы говорите, что мозг задолго до То есть вы говорите, что мозг задолго до То есть вы говорите, что мозг задолго до способности рассуждать. Голуби умеют это способности рассуждать. Голуби умеют это способности рассуждать. Голуби умеют это делать. Итак, задолго до того, как мозг делать. Итак, задолго до того, как мозг

05:41делать. Итак, задолго до того, как мозг может рассуждать. Даже мозг ребёнка может рассуждать. Даже мозг ребёнка может рассуждать. Даже мозг ребёнка может в конечном итоге сказать: "Это может в конечном итоге сказать: "Это может в конечном итоге сказать: "Это объект, который выглядит плоским. У него объект, который выглядит плоским. У него объект, который выглядит плоским. У него есть четыре штуки. А затем мы узнаём, есть четыре штуки. А затем мы узнаём, есть четыре штуки. А затем мы узнаём, что слово для этого стол. Как мозг что слово для этого стол. Как мозг что слово для этого стол. Как мозг усиливает связи?" Это был большой усиливает связи?" Это был большой

05:53усиливает связи?" Это был большой открытый вопрос. И, по правде говоря, он открытый вопрос. И, по правде говоря, он открытый вопрос. И, по правде говоря, он до сих пор до конца не закрыт. Но его до сих пор до конца не закрыт. Но его до сих пор до конца не закрыт. Но его можно разбить на два. можно разбить на два. можно разбить на два. Первый. Если бы мозг мог каким-то Первый. Если бы мозг мог каким-то Первый. Если бы мозг мог каким-то образом решать для каждой связи, усилить образом решать для каждой связи, усилить образом решать для каждой связи, усилить её чуть-чуть или, наоборот, ослабить, её чуть-чуть или, наоборот, ослабить,

06:05её чуть-чуть или, наоборот, ослабить, чтобы лучше справляться с задачей. Если чтобы лучше справляться с задачей. Если чтобы лучше справляться с задачей. Если начать с большого количества случайных начать с большого количества случайных начать с большого количества случайных связей и просто постоянно их связей и просто постоянно их связей и просто постоянно их подстраивать, смогла бы такая система подстраивать, смогла бы такая система подстраивать, смогла бы такая система научиться делать что-то сложное или она научиться делать что-то сложное или она научиться делать что-то сложное или она бы просто застряла? бы просто застряла? бы просто застряла? И какой ответ? Почти все были уверены,

06:22И какой ответ? Почти все были уверены, И какой ответ? Почти все были уверены, она застрянет. Считалось, что система она застрянет. Считалось, что система она застрянет. Считалось, что система должна изначально иметь огромное должна изначально иметь огромное должна изначально иметь огромное количество врождённых знаний в виде количество врождённых знаний в виде количество врождённых знаний в виде правильно настроенных связей между правильно настроенных связей между правильно настроенных связей между клетками мозга, а опыт может лишь слегка клетками мозга, а опыт может лишь слегка клетками мозга, а опыт может лишь слегка улучшить уже имеющееся. Это было улучшить уже имеющееся. Это было

06:35улучшить уже имеющееся. Это было общепринятое мнение, и оно оказалось общепринятое мнение, и оно оказалось общепринятое мнение, и оно оказалось ошибочным. То, что мы показали сейчас, ошибочным. То, что мы показали сейчас, ошибочным. То, что мы показали сейчас, если вы умеете для каждой связи если вы умеете для каждой связи если вы умеете для каждой связи определять, стоит ли её усилить или определять, стоит ли её усилить или определять, стоит ли её усилить или ослабить, чтобы лучше справляться с ослабить, чтобы лучше справляться с ослабить, чтобы лучше справляться с задачей, то можно научиться невероятно задачей, то можно научиться невероятно

06:48задачей, то можно научиться невероятно сложным вещам, например, таким, как сложным вещам, например, таким, как сложным вещам, например, таким, как большие языковые модели. То есть это большие языковые модели. То есть это большие языковые модели. То есть это похоже на нейронность мозга, способность похоже на нейронность мозга, способность похоже на нейронность мозга, способность мозга понимать и соединяться друг с мозга понимать и соединяться друг с мозга понимать и соединяться друг с другом, что делает его мощным, а не другом, что делает его мощным, а не другом, что делает его мощным, а не какое-то врождённое знание внутри мозга. какое-то врождённое знание внутри мозга.

07:01какое-то врождённое знание внутри мозга. Именно это способность учиться, умение Именно это способность учиться, умение Именно это способность учиться, умение менять силу связей так, чтобы лучше менять силу связей так, чтобы лучше менять силу связей так, чтобы лучше выполнять задачу. выполнять задачу. выполнять задачу. И вы лучше справляетесь с этим, когда вы И вы лучше справляетесь с этим, когда вы И вы лучше справляетесь с этим, когда вы ребёнок, верно? Да. Потому что дети ребёнок, верно? Да. Потому что дети ребёнок, верно? Да. Потому что дети более нейропластичные. более нейропластичные. более нейропластичные. Так ли нейропластичен и как ребёнок? Это

07:17Так ли нейропластичен и как ребёнок? Это Так ли нейропластичен и как ребёнок? Это очень хороший вопрос. Итак, то, что мы очень хороший вопрос. Итак, то, что мы очень хороший вопрос. Итак, то, что мы знаем сейчас - это то, что если вы знаем сейчас - это то, что если вы знаем сейчас - это то, что если вы можете найти способ выяснить, следует ли можете найти способ выяснить, следует ли можете найти способ выяснить, следует ли вам увеличить или уменьшить силу связи, вам увеличить или уменьшить силу связи, вам увеличить или уменьшить силу связи, и вы можете делать это для всех сил и вы можете делать это для всех сил и вы можете делать это для всех сил связи одновременно, тогда вы можете

07:29связи одновременно, тогда вы можете связи одновременно, тогда вы можете создавать очень умные системы. Но, создавать очень умные системы. Но, создавать очень умные системы. Но, вероятно, есть разница между тем, как вероятно, есть разница между тем, как вероятно, есть разница между тем, как мозг это выясняет, и как это выясняет мозг это выясняет, и как это выясняет мозг это выясняет, и как это выясняет текущий ИИ. И вполне возможно, что у текущий ИИ. И вполне возможно, что у текущий ИИ. И вполне возможно, что у мозга есть метод, который в чём-то мозга есть метод, который в чём-то мозга есть метод, который в чём-то лучше, чем то, что есть у нас, а в лучше, чем то, что есть у нас, а в

07:41лучше, чем то, что есть у нас, а в чём-то хуже, потому что он решает чём-то хуже, потому что он решает чём-то хуже, потому что он решает немного другую проблему. Какую? Итак, и, немного другую проблему. Какую? Итак, и, немного другую проблему. Какую? Итак, и, которые существуют сейчас, имеют только которые существуют сейчас, имеют только которые существуют сейчас, имеют только около триллиона связей. Всего триллион, около триллиона связей. Всего триллион, около триллиона связей. Всего триллион, у нас больше триллиона, у нас около 100 у нас больше триллиона, у нас около 100 у нас больше триллиона, у нас около 100 триллионов. Правда, в нашем мозгу? Да. И

07:57триллионов. Правда, в нашем мозгу? Да. И триллионов. Правда, в нашем мозгу? Да. И получается, что у нашего мозга примерно получается, что у нашего мозга примерно получается, что у нашего мозга примерно в 100 раз больше связи, чем у самого в 100 раз больше связи, чем у самого в 100 раз больше связи, чем у самого умного ИИ. Но при этом он получает лишь умного ИИ. Но при этом он получает лишь умного ИИ. Но при этом он получает лишь крошечную долю опыта. Мы живём примерно крошечную долю опыта. Мы живём примерно крошечную долю опыта. Мы живём примерно 2 млрд секунд. Даже если получать по 10 2 млрд секунд. Даже если получать по 10

08:102 млрд секунд. Даже если получать по 10 единиц опыта в секунду, а это абсолютный единиц опыта в секунду, а это абсолютный единиц опыта в секунду, а это абсолютный максимум, и вообще не спать, всё равно максимум, и вообще не спать, всё равно максимум, и вообще не спать, всё равно получится всего около 20 млрдов. А получится всего около 20 млрдов. А получится всего около 20 млрдов. А большие языковые модели обучаются на большие языковые модели обучаются на большие языковые модели обучаются на триллионах и триллионах примеров. То триллионах и триллионах примеров. То триллионах и триллионах примеров. То есть у них колоссально больше опыта и есть у них колоссально больше опыта и

08:23есть у них колоссально больше опыта и при этом значительно меньше связей. Это при этом значительно меньше связей. Это при этом значительно меньше связей. Это потому, что у них больше памяти, чем у потому, что у них больше памяти, чем у потому, что у них больше памяти, чем у нашего мозга? Нет, наоборот, у нас нашего мозга? Нет, наоборот, у нас нашего мозга? Нет, наоборот, у нас памяти больше, потому что она хранится в памяти больше, потому что она хранится в памяти больше, потому что она хранится в самих связях. То есть эти 100 триллин самих связях. То есть эти 100 триллин самих связях. То есть эти 100 триллин связей - это и есть хранилище. Но мы не связей - это и есть хранилище. Но мы не

08:34связей - это и есть хранилище. Но мы не можем его заполнить, потому что у нас можем его заполнить, потому что у нас можем его заполнить, потому что у нас мало времени. Мы не можем использовать мало времени. Мы не можем использовать мало времени. Мы не можем использовать его оптимально. Да, у нас нет его оптимально. Да, у нас нет его оптимально. Да, у нас нет возможности прочитать всё, что есть в возможности прочитать всё, что есть в возможности прочитать всё, что есть в открытом доступе в интернете. открытом доступе в интернете. открытом доступе в интернете. А у больших и есть. Но не потому, что у А у больших и есть. Но не потому, что у

08:47А у больших и есть. Но не потому, что у них больше времени, а потому, что они них больше времени, а потому, что они них больше времени, а потому, что они обрабатывают это быстрее. Верно? Есть обрабатывают это быстрее. Верно? Есть обрабатывают это быстрее. Верно? Есть две причины. Первая, да, они две причины. Первая, да, они две причины. Первая, да, они обрабатывают быстрее. А вторая, они обрабатывают быстрее. А вторая, они обрабатывают быстрее. А вторая, они цифровые. А с цифровой системой вы цифровые. А с цифровой системой вы цифровые. А с цифровой системой вы можете создать много её копий. И поэтому можете создать много её копий. И поэтому

09:01можете создать много её копий. И поэтому то, что вы можете делать с этим Ии - это то, что вы можете делать с этим Ии - это то, что вы можете делать с этим Ии - это иметь много копий, работающих на разном иметь много копий, работающих на разном иметь много копий, работающих на разном оборудовании. Каждая копия смотрит на оборудовании. Каждая копия смотрит на оборудовании. Каждая копия смотрит на одну часть интернета, выясняет, как бы одну часть интернета, выясняет, как бы одну часть интернета, выясняет, как бы они хотели изменить силу связей. А затем они хотели изменить силу связей. А затем они хотели изменить силу связей. А затем они общаются друг с другом. И все они

09:14они общаются друг с другом. И все они они общаются друг с другом. И все они изменяют силу своих связей на основе изменяют силу своих связей на основе изменяют силу своих связей на основе среднего того, что хотят все. И теперь среднего того, что хотят все. И теперь среднего того, что хотят все. И теперь каждая копия получила пользу от опыта каждая копия получила пользу от опыта каждая копия получила пользу от опыта всех других. Если у вас тысяча копий, всех других. Если у вас тысяча копий, всех других. Если у вас тысяча копий, они получают в тыся раз больше опыта, они получают в тыся раз больше опыта, они получают в тыся раз больше опыта, чем одна. И все они могут учиться на

09:28чем одна. И все они могут учиться на чем одна. И все они могут учиться на всех этих опытах, усредняя изменения в всех этих опытах, усредняя изменения в всех этих опытах, усредняя изменения в силе связи. То есть это как если бы силе связи. То есть это как если бы силе связи. То есть это как если бы каждый мой опыт автоматически переживали каждый мой опыт автоматически переживали каждый мой опыт автоматически переживали все мои братья и сёстры, и все ваши все мои братья и сёстры, и все ваши все мои братья и сёстры, и все ваши братья и сёстры учились бы на вашем братья и сёстры учились бы на вашем братья и сёстры учились бы на вашем опыте. Разве это не было бы потрясающе?

09:42опыте. Разве это не было бы потрясающе? опыте. Разве это не было бы потрясающе? Хотя на практике они делают наоборот, Хотя на практике они делают наоборот, Хотя на практике они делают наоборот, просто объясняют мне, почему я была просто объясняют мне, почему я была просто объясняют мне, почему я была неправа. Но это интересно, потому что неправа. Но это интересно, потому что неправа. Но это интересно, потому что получается искусственный интеллект более получается искусственный интеллект более получается искусственный интеллект более коллективный, он намного лучше делится коллективный, он намного лучше делится коллективный, он намного лучше делится знаниями. Если у вас есть несколько

09:55знаниями. Если у вас есть несколько знаниями. Если у вас есть несколько идентичных копий одной и той же идентичных копий одной и той же идентичных копий одной и той же нейросети с теми же самыми связями, а нейросети с теми же самыми связями, а нейросети с теми же самыми связями, а для этого система должна быть цифровой, для этого система должна быть цифровой, для этого система должна быть цифровой, эти копии могут делиться тем, чему они эти копии могут делиться тем, чему они эти копии могут делиться тем, чему они научились. Если у них есть триллион научились. Если у них есть триллион научились. Если у них есть триллион связей, они делятся примерно триллионом

10:09связей, они делятся примерно триллионом связей, они делятся примерно триллионом битов, когда они делятся тем, как бы они битов, когда они делятся тем, как бы они битов, когда они делятся тем, как бы они хотели изменить силу связей. Теперь, хотели изменить силу связей. Теперь, хотели изменить силу связей. Теперь, когда я делюсь с вами, я делюсь, когда я делюсь с вами, я делюсь, когда я делюсь с вами, я делюсь, возможно, 100 битами на предложение, возможно, 100 битами на предложение, возможно, 100 битами на предложение, даже если вы идеально поняли даже если вы идеально поняли даже если вы идеально поняли предложение. То есть в умении делиться предложение. То есть в умении делиться

10:21предложение. То есть в умении делиться они превосходят нас в миллиарды раз. они превосходят нас в миллиарды раз. они превосходят нас в миллиарды раз. Вау! И при этом именно мы научили их Вау! И при этом именно мы научили их Вау! И при этом именно мы научили их этому. Такие люди, как вы, Ян Ликун, этому. Такие люди, как вы, Ян Ликун, этому. Такие люди, как вы, Ян Ликун, Йошуа, вы все были крёстными отцами и Йошуа, вы все были крёстными отцами и Йошуа, вы все были крёстными отцами и помогая тренировать эти нейронные сети, помогая тренировать эти нейронные сети, помогая тренировать эти нейронные сети, чтобы они существовали. чтобы они существовали.

10:36чтобы они существовали. По сути, мы сделали две вещи. Во-первых, По сути, мы сделали две вещи. Во-первых, По сути, мы сделали две вещи. Во-первых, мы поняли, как их обучать, как именно мы поняли, как их обучать, как именно мы поняли, как их обучать, как именно они должны менять силу связей, а, они должны менять силу связей, а, они должны менять силу связей, а, во-вторых, мы дали им огромное во-вторых, мы дали им огромное во-вторых, мы дали им огромное количество данных, и уже из этих данных количество данных, и уже из этих данных количество данных, и уже из этих данных они сами определили, какие силы связи они сами определили, какие силы связи

10:50они сами определили, какие силы связи использовать. И мы на самом деле не использовать. И мы на самом деле не использовать. И мы на самом деле не знаем, что именно они извлекли из этих знаем, что именно они извлекли из этих знаем, что именно они извлекли из этих данных. Это совсем не похоже на обычное данных. Это совсем не похоже на обычное данных. Это совсем не похоже на обычное программное обеспечение. В обычных программное обеспечение. В обычных программное обеспечение. В обычных программах вы пишете строки кода, и программах вы пишете строки кода, и программах вы пишете строки кода, и человек, который написал программу, человек, который написал программу,

11:01человек, который написал программу, может объяснить, что должна делать может объяснить, что должна делать может объяснить, что должна делать каждая строка. Она может работать не каждая строка. Она может работать не каждая строка. Она может работать не так, как задумывалась, но, по крайней так, как задумывалась, но, по крайней так, как задумывалась, но, по крайней мере, автор может сказать, что именно он мере, автор может сказать, что именно он мере, автор может сказать, что именно он имел в виду. Здесь всё иначе. Мы пишем имел в виду. Здесь всё иначе. Мы пишем имел в виду. Здесь всё иначе. Мы пишем строки кода и точно знаем, для чего они строки кода и точно знаем, для чего они

11:13строки кода и точно знаем, для чего они предназначены, чтобы система могла предназначены, чтобы система могла предназначены, чтобы система могла понять, нужно ли усиливать или ослаблять понять, нужно ли усиливать или ослаблять понять, нужно ли усиливать или ослаблять связь, когда она видит данные. Но чему связь, когда она видит данные. Но чему связь, когда она видит данные. Но чему именно она в итоге учится, мы не знаем. именно она в итоге учится, мы не знаем. именно она в итоге учится, мы не знаем. Когда вы говорите усилить или ослабить Когда вы говорите усилить или ослабить Когда вы говорите усилить или ослабить связь, что это вообще значит? Я, связь, что это вообще значит? Я,

11:25связь, что это вообще значит? Я, например, представляю это так. Есть например, представляю это так. Есть например, представляю это так. Есть часть моего мозга, которая обрабатывает часть моего мозга, которая обрабатывает часть моего мозга, которая обрабатывает образы. Я говорю: "Это барабан". Есть образы. Я говорю: "Это барабан". Есть образы. Я говорю: "Это барабан". Есть часть мозга, которая управляет рукой. Я часть мозга, которая управляет рукой. Я часть мозга, которая управляет рукой. Я могу сказать: "Я бью по барабану". В могу сказать: "Я бью по барабану". В могу сказать: "Я бью по барабану". В углу студии стоит барабан. И, вероятно, углу студии стоит барабан. И, вероятно,

11:37углу студии стоит барабан. И, вероятно, есть ещё какая-то управляющая функция, есть ещё какая-то управляющая функция, есть ещё какая-то управляющая функция, которая решает, о чём вообще думать, которая решает, о чём вообще думать, которая решает, о чём вообще думать, видит барабан, связывает всё вместе. видит барабан, связывает всё вместе. видит барабан, связывает всё вместе. Связь - это и есть связь между этими Связь - это и есть связь между этими Связь - это и есть связь между этими разными частями мозга. Это целый набор разными частями мозга. Это целый набор разными частями мозга. Это целый набор связей. Это большой путь между разными связей. Это большой путь между разными

11:50связей. Это большой путь между разными областями мозга. Но внутри одного такого областями мозга. Но внутри одного такого областями мозга. Но внутри одного такого пути, например, пути отвечающего за пути, например, пути отвечающего за пути, например, пути отвечающего за зрение и распознавание объектов, зрение и распознавание объектов, зрение и распознавание объектов, существует огромное количество связей. существует огромное количество связей. существует огромное количество связей. Примерно треть мозга участвует в этом Примерно треть мозга участвует в этом Примерно треть мозга участвует в этом процессе, потому что мы, по сути, процессе, потому что мы, по сути,

12:02процессе, потому что мы, по сути, обезьяны. А обезьяны очень визуальные обезьяны. А обезьяны очень визуальные обезьяны. А обезьяны очень визуальные существа. В этом пути есть множество существа. В этом пути есть множество существа. В этом пути есть множество связей, которые определяют, как вы связей, которые определяют, как вы связей, которые определяют, как вы распознаёте объект. И в основном они распознаёте объект. И в основном они распознаёте объект. И в основном они обучаемые. обучаемые. обучаемые. Я могу привести пример, если хотите. Я могу привести пример, если хотите. Я могу привести пример, если хотите. Да. Допустим, задача такая: Да. Допустим, задача такая:

12:21Да. Допустим, задача такая: "Я показываю вам изображение, а вы "Я показываю вам изображение, а вы "Я показываю вам изображение, а вы должны сказать, это птица или нет". Если должны сказать, это птица или нет". Если должны сказать, это птица или нет". Если подумать об изображениях птиц, это может подумать об изображениях птиц, это может подумать об изображениях птиц, это может быть страус прямо перед вами, готовый быть страус прямо перед вами, готовый быть страус прямо перед вами, готовый вас клюнуть, а может быть чайка вас клюнуть, а может быть чайка вас клюнуть, а может быть чайка далеко-далеко на горизонте. далеко-далеко на горизонте.

12:35далеко-далеко на горизонте. И то, и другое птицы. Простого взгляда И то, и другое птицы. Простого взгляда И то, и другое птицы. Простого взгляда на пиксели недостаточно, чтобы понять, на пиксели недостаточно, чтобы понять, на пиксели недостаточно, чтобы понять, птица это или нет. Вам нужна абстракция. птица это или нет. Вам нужна абстракция. птица это или нет. Вам нужна абстракция. Нужно выделять различные признаки. Нужно выделять различные признаки. Нужно выделять различные признаки. И вот очень упрощённо, как работает И вот очень упрощённо, как работает И вот очень упрощённо, как работает человеческая зрительная система. Это человеческая зрительная система. Это

12:52человеческая зрительная система. Это выяснили с помощью экспериментов, когда выяснили с помощью экспериментов, когда выяснили с помощью экспериментов, когда электроды выводили прямо в клетки мозга. электроды выводили прямо в клетки мозга. электроды выводили прямо в клетки мозга. В основном у кошек и обезьян, не у В основном у кошек и обезьян, не у В основном у кошек и обезьян, не у людей. В основном не у людей. Типа ФМРТ. людей. В основном не у людей. Типа ФМРТ. людей. В основном не у людей. Типа ФМРТ. Нет, нет. ФМРТ на самом деле измеряет Нет, нет. ФМРТ на самом деле измеряет Нет, нет. ФМРТ на самом деле измеряет кровоток, а кровоток увеличивается, кровоток, а кровоток увеличивается,

13:07кровоток, а кровоток увеличивается, потому что нейроны говорят: "Мне нужно потому что нейроны говорят: "Мне нужно потому что нейроны говорят: "Мне нужно больше крови. Я активен, мне нужна больше крови. Я активен, мне нужна больше крови. Я активен, мне нужна энергия". энергия". энергия". ФМРТ смотрит сразу на огромное ФМРТ смотрит сразу на огромное ФМРТ смотрит сразу на огромное количество нейронов.

13:25Каждый пиксель МРТ - это кровоток, Каждый пиксель МРТ - это кровоток, который отражает активность. Я не знаю который отражает активность. Я не знаю который отражает активность. Я не знаю точное число, но порядка сотен тысяч точное число, но порядка сотен тысяч точное число, но порядка сотен тысяч нейронов. То есть вы не видите отдельные нейронов. То есть вы не видите отдельные нейронов. То есть вы не видите отдельные нейроны. Когда вы видите отдельный нейроны. Когда вы видите отдельный нейроны. Когда вы видите отдельный нейрон? Когда вы вводите электрод прямо нейрон? Когда вы вводите электрод прямо нейрон? Когда вы вводите электрод прямо в нейрон или используете оптические

13:42в нейрон или используете оптические в нейрон или используете оптические красители, из-за которых нейрон начинает красители, из-за которых нейрон начинает красители, из-за которых нейрон начинает светиться, когда активируется. светиться, когда активируется. светиться, когда активируется. Тогда нейроны видно гораздо лучше. Но Тогда нейроны видно гораздо лучше. Но Тогда нейроны видно гораздо лучше. Но ФМРТ - это очень грубый инструмент. ФМРТ - это очень грубый инструмент. ФМРТ - это очень грубый инструмент. Это как смотреть на человеческую Это как смотреть на человеческую Это как смотреть на человеческую деятельность из космоса. деятельность из космоса.

13:58деятельность из космоса. Например, вы видите, что когда в Например, вы видите, что когда в Например, вы видите, что когда в Детройте становится жарче, через Детройте становится жарче, через Детройте становится жарче, через несколько лет теплее становится и в несколько лет теплее становится и в несколько лет теплее становится и в Южном Онтарио. И то, что вы обнаружили - Южном Онтарио. И то, что вы обнаружили - Южном Онтарио. И то, что вы обнаружили - это автомобильная промышленность. это автомобильная промышленность. это автомобильная промышленность. Автохпром создаёт корреляции. Автохпром создаёт корреляции. Автохпром создаёт корреляции. Вот примерно так работает ФМРТ.

14:16Вот примерно так работает ФМРТ. Вот примерно так работает ФМРТ. А отдельная человеческая деятельность - А отдельная человеческая деятельность - А отдельная человеческая деятельность - это уже уровень отдельных нейронов. Что это уже уровень отдельных нейронов. Что это уже уровень отдельных нейронов. Что мы точно знаем? Когда свет попадает в мы точно знаем? Когда свет попадает в мы точно знаем? Когда свет попадает в глаз, фоторецепторы сетчатки преобразуют глаз, фоторецепторы сетчатки преобразуют глаз, фоторецепторы сетчатки преобразуют его в электрические сигналы и выполняют его в электрические сигналы и выполняют его в электрические сигналы и выполняют первичную обработку.

14:32первичную обработку. первичную обработку. Затем сигнал по зрительному нерву Затем сигнал по зрительному нерву Затем сигнал по зрительному нерву поступает в мозг, и чуть позже на поступает в мозг, и чуть позже на поступает в мозг, и чуть позже на следующем этапе появляется большое следующем этапе появляется большое следующем этапе появляется большое количество нейронов, которые распознают количество нейронов, которые распознают количество нейронов, которые распознают маленькие фрагменты границ. Я сейчас маленькие фрагменты границ. Я сейчас маленькие фрагменты границ. Я сейчас очень сильно упрощаю. Да. А это чуть очень сильно упрощаю. Да. А это чуть

14:45очень сильно упрощаю. Да. А это чуть позже. Это сколько? Миллисекунды. позже. Это сколько? Миллисекунды. позже. Это сколько? Миллисекунды. Примерно через 30 мисекунд. Примерно через 30 мисекунд. Примерно через 30 мисекунд. И у вас появляется множество нейронов, И у вас появляется множество нейронов, И у вас появляется множество нейронов, которые распознают маленькие кусочки которые распознают маленькие кусочки которые распознают маленькие кусочки границ в разных местах, с разной границ в разных местах, с разной границ в разных местах, с разной ориентацией и в разных масштабах. ориентацией и в разных масштабах. ориентацией и в разных масштабах. Я объясню, как можно сделать такой

15:04Я объясню, как можно сделать такой Я объясню, как можно сделать такой детектор. Допустим, у нас есть детектор. Допустим, у нас есть детектор. Допустим, у нас есть изображение, состоящее из пикселей. изображение, состоящее из пикселей. изображение, состоящее из пикселей. Пусть это будет чёрно-белое изображение Пусть это будет чёрно-белое изображение Пусть это будет чёрно-белое изображение без цвета. У каждого пикселя есть без цвета. У каждого пикселя есть без цвета. У каждого пикселя есть яркость. И, допустим, я хочу распознать яркость. И, допустим, я хочу распознать яркость. И, допустим, я хочу распознать небольшой вертикальный край, где с одной небольшой вертикальный край, где с одной

15:18небольшой вертикальный край, где с одной стороны светло, а с другой темно. Я стороны светло, а с другой темно. Я стороны светло, а с другой темно. Я беру, скажем, колонку из трёх пикселей, беру, скажем, колонку из трёх пикселей, беру, скажем, колонку из трёх пикселей, и нейрон смотрит на них. Я беру, скажем, и нейрон смотрит на них. Я беру, скажем, и нейрон смотрит на них. Я беру, скажем, колонку из трёх пикселей, и нейрон колонку из трёх пикселей, и нейрон колонку из трёх пикселей, и нейрон смотрит на них. У него большие смотрит на них. У него большие смотрит на них. У него большие положительные веса для этих трёх положительные веса для этих трёх

15:33положительные веса для этих трёх пикселей и большие отрицательные веса пикселей и большие отрицательные веса пикселей и большие отрицательные веса для трёх пикселей в соседней колонке. для трёх пикселей в соседней колонке. для трёх пикселей в соседней колонке. Если яркость одинаковая, нейрон получает Если яркость одинаковая, нейрон получает Если яркость одинаковая, нейрон получает много положительного сигнала с одной много положительного сигнала с одной много положительного сигнала с одной стороны и много отрицательного с другой. стороны и много отрицательного с другой. стороны и много отрицательного с другой. И в итоге ничего не происходит, они И в итоге ничего не происходит, они

15:48И в итоге ничего не происходит, они взаимно компенсируются. взаимно компенсируются. взаимно компенсируются. И всё, что говорит этот нейрон, в этом И всё, что говорит этот нейрон, в этом И всё, что говорит этот нейрон, в этом изображении для меня нет ничего изображении для меня нет ничего изображении для меня нет ничего интересного. Это не то, что я ищу. интересного. Это не то, что я ищу. интересного. Это не то, что я ищу. Поняла? Потому что это не ярко с одной Поняла? Потому что это не ярко с одной Поняла? Потому что это не ярко с одной стороны. Потому что это не ярко с одной стороны. Потому что это не ярко с одной

16:01стороны. Потому что это не ярко с одной стороны и не темно с другой. Хорошо, я стороны и не темно с другой. Хорошо, я стороны и не темно с другой. Хорошо, я запуталась. Единственное условие, при запуталась. Единственное условие, при запуталась. Единственное условие, при котором он сработает, если пиксели с котором он сработает, если пиксели с котором он сработает, если пиксели с этой стороны яркие, а с той стороны этой стороны яркие, а с той стороны этой стороны яркие, а с той стороны тёмные, потому что это граница. Потому тёмные, потому что это граница. Потому тёмные, потому что это граница. Потому что это и есть граница. Потому что это что это и есть граница. Потому что это

16:15что это и есть граница. Потому что это говорит мне, что это что-то, а это говорит мне, что это что-то, а это говорит мне, что это что-то, а это ничего. Это говорит: "Смотри, с этой ничего. Это говорит: "Смотри, с этой ничего. Это говорит: "Смотри, с этой стороны ярко, а с другой темно, значит, стороны ярко, а с другой темно, значит, стороны ярко, а с другой темно, значит, здесь есть граница". Итак, мы поняли, здесь есть граница". Итак, мы поняли, здесь есть граница". Итак, мы поняли, как сделать детектор границ. В итоге мы как сделать детектор границ. В итоге мы как сделать детектор границ. В итоге мы заставим систему самой научиться делать заставим систему самой научиться делать

16:27заставим систему самой научиться делать такие детекторы, и она это сделает. Но, такие детекторы, и она это сделает. Но, такие детекторы, и она это сделает. Но, предположим, мы просто собрали его предположим, мы просто собрали его предположим, мы просто собрали его вручную. Его это и нейросеть. Итак, вручную. Его это и нейросеть. Итак, вручную. Его это и нейросеть. Итак, сейчас я опишу, как бы я вручную собрал сейчас я опишу, как бы я вручную собрал сейчас я опишу, как бы я вручную собрал нейросеть для распознавания птиц. Она нейросеть для распознавания птиц. Она нейросеть для распознавания птиц. Она была бы не очень хорошей, потому что была бы не очень хорошей, потому что

16:42была бы не очень хорошей, потому что силы связей были бы настроены не силы связей были бы настроены не силы связей были бы настроены не идеально, но подход был бы таким. Я бы идеально, но подход был бы таким. Я бы идеально, но подход был бы таким. Я бы сделал небольшой детектор вертикальных сделал небольшой детектор вертикальных сделал небольшой детектор вертикальных границ, затем горизонтальных. границ, затем горизонтальных. границ, затем горизонтальных. Я бы сделал что-то, что ищет яркие Я бы сделал что-то, что ищет яркие Я бы сделал что-то, что ищет яркие пиксели здесь и тёмные под ними. Если пиксели здесь и тёмные под ними. Если

16:55пиксели здесь и тёмные под ними. Если оно это находит, оно говорит: "Пинк, я оно это находит, оно говорит: "Пинк, я оно это находит, оно говорит: "Пинк, я нашёл горизонтальную границу. Я бы искал нашёл горизонтальную границу. Я бы искал нашёл горизонтальную границу. Я бы искал границы самых разных ориентаций". и границы самых разных ориентаций". и границы самых разных ориентаций". и делал бы это по всему изображению. И я делал бы это по всему изображению. И я делал бы это по всему изображению. И я бы делал это для границ разных бы делал это для границ разных бы делал это для границ разных масштабов. Например, если у меня есть масштабов. Например, если у меня есть

17:07масштабов. Например, если у меня есть облако. Это похоже на игру из газеты, облако. Это похоже на игру из газеты, облако. Это похоже на игру из газеты, где нужно соединять точки. Не совсем. О, где нужно соединять точки. Не совсем. О, где нужно соединять точки. Не совсем. О, ну вот как я это представляю. Хорошо. ну вот как я это представляю. Хорошо. ну вот как я это представляю. Хорошо. Итак, у вас есть облако? У меня есть Итак, у вас есть облако? У меня есть Итак, у вас есть облако? У меня есть облако. У облака нет острых краёв. Так облако. У облака нет острых краёв. Так облако. У облака нет острых краёв. Так что эти маленькие штуки, которые ищут что эти маленькие штуки, которые ищут

17:20что эти маленькие штуки, которые ищут острые края, не найдут края, потому что острые края, не найдут края, потому что острые края, не найдут края, потому что край в облаке очень мягкий. Он край в облаке очень мягкий. Он край в облаке очень мягкий. Он постепенно меняется от тёмного к постепенно меняется от тёмного к постепенно меняется от тёмного к светлому. Итак, нам нужен нейрон, светлому. Итак, нам нужен нейрон, светлому. Итак, нам нужен нейрон, который смотрит на много пикселей. Он который смотрит на много пикселей. Он который смотрит на много пикселей. Он будет смотреть на много пикселей здесь с будет смотреть на много пикселей здесь с

17:33будет смотреть на много пикселей здесь с положительными весами, положительной положительными весами, положительной положительными весами, положительной силой связей и на много пикселей здесь с силой связей и на много пикселей здесь с силой связей и на много пикселей здесь с отрицательной силой связи. И если все отрицательной силой связи. И если все отрицательной силой связи. И если все эти ярче, чем все те, он скажет: "Да, у эти ярче, чем все те, он скажет: "Да, у эти ярче, чем все те, он скажет: "Да, у нас здесь большой нечёткий край". Так нас здесь большой нечёткий край". Так нас здесь большой нечёткий край". Так что это детектор в другом масштабе, что это детектор в другом масштабе,

17:47что это детектор в другом масштабе, который ищет более нечёткие вещи. Но как который ищет более нечёткие вещи. Но как который ищет более нечёткие вещи. Но как бы вы это построили? Вы бы бы вы это построили? Вы бы бы вы это построили? Вы бы запрограммировали это в код? Хорошо, для запрограммировали это в код? Хорошо, для запрограммировали это в код? Хорошо, для начала я объясню, как бы я начала я объясню, как бы я начала я объясню, как бы я запрограммировал это вручную. Да, вы запрограммировал это вручную. Да, вы запрограммировал это вручную. Да, вы программируете это вручную. Я бы просто программируете это вручную. Я бы просто

17:57программируете это вручную. Я бы просто задал все эти связи вручную. Это заняло задал все эти связи вручную. Это заняло задал все эти связи вручную. Это заняло бы больше времени, чем существует бы больше времени, чем существует бы больше времени, чем существует вселенная, но неважно. Я очень терпелив. вселенная, но неважно. Я очень терпелив. вселенная, но неважно. Я очень терпелив. Я бы задал все связи по всему Я бы задал все связи по всему Я бы задал все связи по всему изображению, и в итоге у меня было бы, изображению, и в итоге у меня было бы, изображению, и в итоге у меня было бы, возможно, миллиарды таких маленьких возможно, миллиарды таких маленьких

18:09возможно, миллиарды таких маленьких нейронов. Порядка миллиарда, может быть, нейронов. Порядка миллиарда, может быть, нейронов. Порядка миллиарда, может быть, 100 млн, но в любом случае очень много. 100 млн, но в любом случае очень много. 100 млн, но в любом случае очень много. И все они просто детектируют маленькие И все они просто детектируют маленькие И все они просто детектируют маленькие кусочки границ разных масштабов и кусочки границ разных масштабов и кусочки границ разных масштабов и ориентаций. Это то, чем занимается ориентаций. Это то, чем занимается ориентаций. Это то, чем занимается первый слой нейронов. первый слой нейронов.

18:25первый слой нейронов. Затем есть следующий слой. Он начинает Затем есть следующий слой. Он начинает Затем есть следующий слой. Он начинает искать небольшие комбинации границ. искать небольшие комбинации границ. искать небольшие комбинации границ. Например, мне может понадобиться нейрон, Например, мне может понадобиться нейрон, Например, мне может понадобиться нейрон, который ищет две границы, сходящиеся вот который ищет две границы, сходящиеся вот который ищет две границы, сходящиеся вот так. Вы складываете пальцы вместе в своего Вы складываете пальцы вместе в своего рода треугольник. Да, это может быть рода треугольник. Да, это может быть

18:44рода треугольник. Да, это может быть маленький клюв, например. Да, клюв. Это маленький клюв, например. Да, клюв. Это маленький клюв, например. Да, клюв. Это может быть и что-то другое, скажем, может быть и что-то другое, скажем, может быть и что-то другое, скажем, наконечник стрелы, но это может быть и наконечник стрелы, но это может быть и наконечник стрелы, но это может быть и клюв. И делается это так. В следующем клюв. И делается это так. В следующем клюв. И делается это так. В следующем слое есть нейрон, который возбуждается слое есть нейрон, который возбуждается слое есть нейрон, который возбуждается всеми детекторами, находящими такую всеми детекторами, находящими такую

19:00всеми детекторами, находящими такую границу, и всеми детекторами, находящими границу, и всеми детекторами, находящими границу, и всеми детекторами, находящими вот эту границу. Горизонтальный край и вот эту границу. Горизонтальный край и вот эту границу. Горизонтальный край и диагональный край. Но не возбуждается диагональный край. Но не возбуждается диагональный край. Но не возбуждается ничем другим. Чтобы этот нейрон ничем другим. Чтобы этот нейрон ничем другим. Чтобы этот нейрон активировался и сказал Пин, ему нужно активировался и сказал Пин, ему нужно активировался и сказал Пин, ему нужно обнаружить комбинацию таких и таких обнаружить комбинацию таких и таких

19:15обнаружить комбинацию таких и таких границ. Когда он находит эту комбинацию, границ. Когда он находит эту комбинацию, границ. Когда он находит эту комбинацию, он говорит: "Пинк, означает ли это, что он говорит: "Пинк, означает ли это, что он говорит: "Пинк, означает ли это, что у меня в голове есть буквальный нейрон у меня в голове есть буквальный нейрон у меня в голове есть буквальный нейрон клюва, который просто распознаёт клюв? клюва, который просто распознаёт клюв? клюва, который просто распознаёт клюв? Это когда я программирую его вручную. И Это когда я программирую его вручную. И Это когда я программирую его вручную. И да, у вас, вероятно, есть что-то вроде

19:28да, у вас, вероятно, есть что-то вроде да, у вас, вероятно, есть что-то вроде этого. Правда? Сколько нейронов у меня в этого. Правда? Сколько нейронов у меня в этого. Правда? Сколько нейронов у меня в мозгу? Чуть меньше 100 млрд. мозгу? Чуть меньше 100 млрд. мозгу? Чуть меньше 100 млрд. И имеют ли число 100 млрд и число 100 И имеют ли число 100 млрд и число 100 И имеют ли число 100 млрд и число 100 триллионов какое-либо отношение друг к триллионов какое-либо отношение друг к триллионов какое-либо отношение друг к другу? Да. Являются ли они другу? Да. Являются ли они другу? Да. Являются ли они перестановкой? У каждого нейрона есть перестановкой? У каждого нейрона есть

19:43перестановкой? У каждого нейрона есть некоторые связи, как правило, от 1.000 некоторые связи, как правило, от 1.000 некоторые связи, как правило, от 1.000 до 10.000. Хорошо, значит, есть до 10.000. Хорошо, значит, есть до 10.000. Хорошо, значит, есть математическая связь. Если взять математическая связь. Если взять математическая связь. Если взять количество нейронов и умножить на 1.000 количество нейронов и умножить на 1.000 количество нейронов и умножить на 1.000 или 10.000, вы примерно получите число или 10.000, вы примерно получите число или 10.000, вы примерно получите число связей. Я думаю, что лучшая оценка числа связей. Я думаю, что лучшая оценка числа

19:56связей. Я думаю, что лучшая оценка числа нейронов в человеческом мозгу составляет нейронов в человеческом мозгу составляет нейронов в человеческом мозгу составляет что-то около 86 млрд. 86 млрд. И это что-то около 86 млрд. 86 млрд. И это что-то около 86 млрд. 86 млрд. И это оттыкание в обезьян или отковыряние в оттыкание в обезьян или отковыряние в оттыкание в обезьян или отковыряние в людях. Думаю, изучали небольшие участки людях. Думаю, изучали небольшие участки людях. Думаю, изучали небольшие участки человеческого мозга и экстраполировали. человеческого мозга и экстраполировали. человеческого мозга и экстраполировали. Если собирать такую систему Если собирать такую систему

20:09Если собирать такую систему распознавания вручную, она начинается с распознавания вручную, она начинается с распознавания вручную, она начинается с границ, затем переходит к распознаванию границ, затем переходит к распознаванию границ, затем переходит к распознаванию конкретных форм, например, клюва, да, конкретных форм, например, клюва, да, конкретных форм, например, клюва, да, клювов. А ещё в этом же слое могут клювов. А ещё в этом же слое могут клювов. А ещё в этом же слое могут распознаваться группы границ, образующие распознаваться группы границ, образующие распознаваться группы границ, образующие круг, потенциальный глаз. Это может быть круг, потенциальный глаз. Это может быть

20:22круг, потенциальный глаз. Это может быть и пуговица, и колесо, и что угодно. В и пуговица, и колесо, и что угодно. В и пуговица, и колесо, и что угодно. В следующем слое появляются элементы, следующем слое появляются элементы, следующем слое появляются элементы, которые распознают возможные клювы, которые распознают возможные клювы, которые распознают возможные клювы, возможные глаза. А ещё на уровень выше возможные глаза. А ещё на уровень выше возможные глаза. А ещё на уровень выше третий слой третий слой третий слой появляется нейрон, у которого есть появляется нейрон, у которого есть появляется нейрон, у которого есть сильная положительная связь со всем, что

20:38сильная положительная связь со всем, что сильная положительная связь со всем, что в этой области считает, что обнаружен в этой области считает, что обнаружен в этой области считает, что обнаружен клюв. Любой клюв в этой зоне будет клюв. Любой клюв в этой зоне будет клюв. Любой клюв в этой зоне будет возбуждать этот нейрон. Значит, речь возбуждать этот нейрон. Значит, речь возбуждать этот нейрон. Значит, речь идёт о том, где физическое расположение идёт о том, где физическое расположение идёт о том, где физическое расположение того, что вы видели во втором слое. Он того, что вы видели во втором слое. Он того, что вы видели во втором слое. Он ищет клюв в этой общей области. Он также

20:53ищет клюв в этой общей области. Он также ищет клюв в этой общей области. Он также может искать глаз в этой общей области. может искать глаз в этой общей области. может искать глаз в этой общей области. Значит, третий слой - это контекст. Значит, третий слой - это контекст. Значит, третий слой - это контекст. Третий слой ищет комбинации этих Третий слой ищет комбинации этих Третий слой ищет комбинации этих особенностей. Он ищет, например, клюв, особенностей. Он ищет, например, клюв, особенностей. Он ищет, например, клюв, потенциальный клюв. Вы ещё не знаете, потенциальный клюв. Вы ещё не знаете, потенциальный клюв. Вы ещё не знаете, что это клюв. Это может быть наконечник

21:05что это клюв. Это может быть наконечник что это клюв. Это может быть наконечник стрелы и круг здесь. Вы не знаете, что стрелы и круг здесь. Вы не знаете, что стрелы и круг здесь. Вы не знаете, что это глаз. Это может быть кнопка. Но если это глаз. Это может быть кнопка. Но если это глаз. Это может быть кнопка. Но если они находятся в правильном они находятся в правильном они находятся в правильном пространственном отношении, то это пространственном отношении, то это пространственном отношении, то это делает гораздо более вероятным, что это делает гораздо более вероятным, что это делает гораздо более вероятным, что это голова птицы. Итак, я просто хочу голова птицы. Итак, я просто хочу

21:16голова птицы. Итак, я просто хочу повторить слои. Итак, первый слой - это повторить слои. Итак, первый слой - это повторить слои. Итак, первый слой - это просто края. Это что-то, это ничего. просто края. Это что-то, это ничего. просто края. Это что-то, это ничего. Второй слой- эти края создают своего Второй слой- эти края создают своего Второй слой- эти края создают своего рода форму. Это круг, это квадрат и так рода форму. Это круг, это квадрат и так рода форму. Это круг, это квадрат и так далее. Третий слой - это то, как эти далее. Третий слой - это то, как эти далее. Третий слой - это то, как эти формы соотносятся друг с другом, что формы соотносятся друг с другом, что

21:28формы соотносятся друг с другом, что может сказать мне: "О, может быть, это может сказать мне: "О, может быть, это может сказать мне: "О, может быть, это лицо, потому что есть круг рядом с лицо, потому что есть круг рядом с лицо, потому что есть круг рядом с треугольником". И в этом случае может треугольником". И в этом случае может треугольником". И в этом случае может быть это голова птицы. Теперь в том же быть это голова птицы. Теперь в том же быть это голова птицы. Теперь в том же слое, а также наличие этих вещей, слое, а также наличие этих вещей, слое, а также наличие этих вещей, которые обнаруживают головы птиц. Теперь которые обнаруживают головы птиц. Теперь

21:40которые обнаруживают головы птиц. Теперь мы на четвёртом. Нет, нет, мы всё ещё на мы на четвёртом. Нет, нет, мы всё ещё на мы на четвёртом. Нет, нет, мы всё ещё на третьем слое. Он обнаруживает комбинацию третьем слое. Он обнаруживает комбинацию третьем слое. Он обнаруживает комбинацию возможного клюва и возможного глаза, возможного клюва и возможного глаза, возможного клюва и возможного глаза, говоря, что это может быть голова птицы, говоря, что это может быть голова птицы, говоря, что это может быть голова птицы, потому что они находятся в правильном потому что они находятся в правильном потому что они находятся в правильном пространственном отношении. У вас также

21:52пространственном отношении. У вас также пространственном отношении. У вас также может быть что-то, что ищет целую кучу может быть что-то, что ищет целую кучу может быть что-то, что ищет целую кучу вещей, которые выглядят вот так. Это вещей, которые выглядят вот так. Это вещей, которые выглядят вот так. Это может быть лапа птицы. Хорошо, вы может быть лапа птицы. Хорошо, вы может быть лапа птицы. Хорошо, вы показываете свои четыре пальца или показываете свои четыре пальца или показываете свои четыре пальца или что-то, что ищет своего рода перья, что-то, что ищет своего рода перья, что-то, что ищет своего рода перья, которые могут быть кончиком крыла птицы.

22:04которые могут быть кончиком крыла птицы. которые могут быть кончиком крыла птицы. Это своего рода упрощённая карикатура на Это своего рода упрощённая карикатура на Это своего рода упрощённая карикатура на систему. Но в этом слое она будет систему. Но в этом слое она будет систему. Но в этом слое она будет обнаруживать возможные головы птиц, обнаруживать возможные головы птиц, обнаруживать возможные головы птиц, возможные лапы птиц, возможные кончики возможные лапы птиц, возможные кончики возможные лапы птиц, возможные кончики крыльев птиц, но не всю птицу. А теперь крыльев птиц, но не всю птицу. А теперь крыльев птиц, но не всю птицу. А теперь в следующем слое выше. Хорошо. Четвёртый

22:18в следующем слое выше. Хорошо. Четвёртый в следующем слое выше. Хорошо. Четвёртый слой. У вас может быть что-то, что слой. У вас может быть что-то, что слой. У вас может быть что-то, что говорит: "Я возбуждаюсь, если вижу говорит: "Я возбуждаюсь, если вижу говорит: "Я возбуждаюсь, если вижу возможную голову птицы. Я возбуждаюсь, возможную голову птицы. Я возбуждаюсь, возможную голову птицы. Я возбуждаюсь, если вижу возможный кончик крыла птицы. если вижу возможный кончик крыла птицы. если вижу возможный кончик крыла птицы. Если вижу возможную лапу птицы, если он Если вижу возможную лапу птицы, если он Если вижу возможную лапу птицы, если он видит кучу этих вещей одновременно, он

22:31видит кучу этих вещей одновременно, он видит кучу этих вещей одновременно, он очень возбуждается и кричит: "Это очень возбуждается и кричит: "Это очень возбуждается и кричит: "Это птица". О'кей. Значит, в этой вручную птица". О'кей. Значит, в этой вручную птица". О'кей. Значит, в этой вручную собранной системе получается четыре собранной системе получается четыре собранной системе получается четыре слоя. Это, конечно, сильно упрощённая слоя. Это, конечно, сильно упрощённая слоя. Это, конечно, сильно упрощённая модель, но, думаю, идея понятна. Как модель, но, думаю, идея понятна. Как модель, но, думаю, идея понятна. Как вообще можно собрать такую систему вообще можно собрать такую систему

22:43вообще можно собрать такую систему вручную? И вот на четвёртом слое вручную? И вот на четвёртом слое вручную? И вот на четвёртом слое появляется нейрон, который срабатывает, появляется нейрон, который срабатывает, появляется нейрон, который срабатывает, когда он видит много комбинаций, когда он видит много комбинаций, когда он видит много комбинаций, признаков, и тогда он кричит: "Возможно, признаков, и тогда он кричит: "Возможно, признаков, и тогда он кричит: "Возможно, это птица". То есть это полностью это птица". То есть это полностью это птица". То есть это полностью система, собранная вручную. Да. А если система, собранная вручную. Да. А если

22:56система, собранная вручную. Да. А если говорить уже не о ручной сборке, а о говорить уже не о ручной сборке, а о говорить уже не о ручной сборке, а о компьютерной системе, о нейросети для компьютерной системе, о нейросети для компьютерной системе, о нейросети для искусственного интеллекта, которая искусственного интеллекта, которая искусственного интеллекта, которая победила символически и основанный на победила символически и основанный на победила символически и основанный на логике, логике, логике, сколько там слоёв, сколько там слоёв, сколько там слоёв, зависит от того, о какой системе вы зависит от того, о какой системе вы

23:14зависит от того, о какой системе вы говорите. Когда мы говорим, система говорите. Когда мы говорим, система говорите. Когда мы говорим, система имеется в виду чашие языковые модели или имеется в виду чашие языковые модели или имеется в виду чашие языковые модели или что? Нет, нет. Речь о году. Алекс что? Нет, нет. Речь о году. Алекс что? Нет, нет. Речь о году. Алекс Крижевский и Илья Суцкевер с небольшой Крижевский и Илья Суцкевер с небольшой Крижевский и Илья Суцкевер с небольшой помощью от меня создали систему под помощью от меня создали систему под помощью от меня создали систему под названием Алекс. В ней было примерно названием Алекс. В ней было примерно

23:29названием Алекс. В ней было примерно семь таких слоёв. Илья, кстати, один из семь таких слоёв. Илья, кстати, один из семь таких слоёв. Илья, кстати, один из сооснователей Openi AI, который позже сооснователей Openi AI, который позже сооснователей Openi AI, который позже ушёл. Он ушёл из-за опасений по поводу ушёл. Он ушёл из-за опасений по поводу ушёл. Он ушёл из-за опасений по поводу безопасности, да, и сейчас он работает безопасности, да, и сейчас он работает безопасности, да, и сейчас он работает над созданием безопасного супелекта, а над созданием безопасного супелекта, а над созданием безопасного супелекта, а Але Alexet просто распознавала Але Alexet просто распознавала

23:42Але Alexet просто распознавала изображение через семь разных слоёв. изображение через семь разных слоёв. изображение через семь разных слоёв. Алекet обучали примерно на миллионе Алекet обучали примерно на миллионе Алекet обучали примерно на миллионе изображений. Причём обучающих данных изображений. Причём обучающих данных изображений. Причём обучающих данных было даже больше, потому что изображения было даже больше, потому что изображения было даже больше, потому что изображения разбивали на большие фрагменты. разбивали на большие фрагменты. разбивали на большие фрагменты. Задача была такая: определить, что Задача была такая: определить, что

23:57Задача была такая: определить, что является самым заметным объектом на этом является самым заметным объектом на этом является самым заметным объектом на этом фрагменте изображения.

24:06То, чем оно подписано. То, чем оно подписано. Люди заранее отмечали, на этом Люди заранее отмечали, на этом Люди заранее отмечали, на этом изображении главная птица или, например, изображении главная птица или, например, изображении главная птица или, например, страус, то есть разные виды птиц. страус, то есть разные виды птиц. страус, то есть разные виды птиц. Самая заметная вещь на этом изображении Самая заметная вещь на этом изображении Самая заметная вещь на этом изображении - это грип шитаки. Похоже на капчу, то, - это грип шитаки. Похоже на капчу, то, - это грип шитаки. Похоже на капчу, то, что вы описываете. Да, это точно как что вы описываете. Да, это точно как

24:23что вы описываете. Да, это точно как капча. Итак, мы находим пожарный капча. Итак, мы находим пожарный капча. Итак, мы находим пожарный гидрант, находим мотоцикл, находим гидрант, находим мотоцикл, находим гидрант, находим мотоцикл, находим велосипед. Именно так. И поэтому Алекс и велосипед. Именно так. И поэтому Алекс и велосипед. Именно так. И поэтому Алекс и Элиат обучили нейронную сеть, которая Элиат обучили нейронную сеть, которая Элиат обучили нейронную сеть, которая была очень хороша в капче. И способ, была очень хороша в капче. И способ, была очень хороша в капче. И способ, которым вы её обучаете - это то, что она которым вы её обучаете - это то, что она

24:37которым вы её обучаете - это то, что она начинается со случайной силы связи во начинается со случайной силы связи во начинается со случайной силы связи во всех этих семи слоях. Допустим, они всех этих семи слоях. Допустим, они всех этих семи слоях. Допустим, они просто обучили более простую модель, просто обучили более простую модель, просто обучили более простую модель, что, я думаю, легче сделать, просто что, я думаю, легче сделать, просто что, я думаю, легче сделать, просто чтобы сказать, была ли это птица или не чтобы сказать, была ли это птица или не чтобы сказать, была ли это птица или не птица. Итак, вы вводите изображение, и у птица. Итак, вы вводите изображение, и у

24:50птица. Итак, вы вводите изображение, и у него есть случайная сила связей, и на него есть случайная сила связей, и на него есть случайная сила связей, и на выходе у вас есть один нейрон. И если он выходе у вас есть один нейрон. И если он выходе у вас есть один нейрон. И если он становится активным, это означает птица. становится активным, это означает птица. становится активным, это означает птица. Если он не активен, это означает не Если он не активен, это означает не Если он не активен, это означает не птица. И для начала он становится птица. И для начала он становится птица. И для начала он становится немного активным, потому что он понятия немного активным, потому что он понятия

25:02немного активным, потому что он понятия не имеет, птица это или нет. Это не не имеет, птица это или нет. Это не не имеет, птица это или нет. Это не лучше, чем случайность. Так что он как лучше, чем случайность. Так что он как лучше, чем случайность. Так что он как бы колеблется около 50% активности. И бы колеблется около 50% активности. И бы колеблется около 50% активности. И то, что вы хотели бы, чтобы он делал, то, что вы хотели бы, чтобы он делал, то, что вы хотели бы, чтобы он делал, когда вы закончите обучение- это 99%, когда вы закончите обучение- это 99%, когда вы закончите обучение- это 99%, если он видит птицу, и, например, 1%, если он видит птицу, и, например, 1%,

25:16если он видит птицу, и, например, 1%, если не видит. Итак, для начала вы если не видит. Итак, для начала вы если не видит. Итак, для начала вы показали ему изображение птицы. Вы показали ему изображение птицы. Вы показали ему изображение птицы. Вы пропускаете это через случайные силы пропускаете это через случайные силы пропускаете это через случайные силы связей, и оно говорит: "50% птица". Оно связей, и оно говорит: "50% птица". Оно связей, и оно говорит: "50% птица". Оно понятия не имеет, птица это или нет. 50% понятия не имеет, птица это или нет. 50% понятия не имеет, птица это или нет. 50% птица - это бесполезная информация. птица - это бесполезная информация.

25:31птица - это бесполезная информация. Бесполезная. Итак, теперь вы можете Бесполезная. Итак, теперь вы можете Бесполезная. Итак, теперь вы можете задать вопрос. Предположим, я немного задать вопрос. Предположим, я немного задать вопрос. Предположим, я немного изменю одну из этих сил связей. И изменю одну из этих сил связей. И изменю одну из этих сил связей. И помните, в этом случае может быть 100 помните, в этом случае может быть 100 помните, в этом случае может быть 100 млн сил связей. млн сил связей. млн сил связей. Предположим, я немного изменю одну из Предположим, я немного изменю одну из Предположим, я немного изменю одну из них. Вместо того, чтобы сказать 50%,

25:49них. Вместо того, чтобы сказать 50%, них. Вместо того, чтобы сказать 50%, скажет ли оно 50.001% скажет ли оно 50.001% скажет ли оно 50.001% или скажет 49.999. или скажет 49.999. или скажет 49.999. То есть вы можете перепрограммировать То есть вы можете перепрограммировать То есть вы можете перепрограммировать его, но если там есть птица, я могу его, но если там есть птица, я могу его, но если там есть птица, я могу обучить эту сеть понимать, что да, это обучить эту сеть понимать, что да, это обучить эту сеть понимать, что да, это больше похоже на птицу. Это больше больше похоже на птицу. Это больше больше похоже на птицу. Это больше похоже на птицу. И тогда средняя сила

26:04похоже на птицу. И тогда средняя сила похоже на птицу. И тогда средняя сила связи увеличивается до такой степени, связи увеличивается до такой степени, связи увеличивается до такой степени, при которой, когда я показывал при которой, когда я показывал при которой, когда я показывал изображение птиц, я хотел бы изменить изображение птиц, я хотел бы изменить изображение птиц, я хотел бы изменить эту силу связи. Таким образом, его эту силу связи. Таким образом, его эту силу связи. Таким образом, его вероятность сказать птица увеличивается вероятность сказать птица увеличивается вероятность сказать птица увеличивается с 50 до 50.001. с 50 до 50.001.

26:18с 50 до 50.001. А когда я показываю не птицу, я хотел А когда я показываю не птицу, я хотел А когда я показываю не птицу, я хотел бы, чтобы вероятность упала с 50% до бы, чтобы вероятность упала с 50% до бы, чтобы вероятность упала с 50% до 49.999. 49.999. 49.999. Почему только так мало? Почему не до 99 Почему только так мало? Почему не до 99 Почему только так мало? Почему не до 99 или нуля? Мы должны идти медленно, иначе или нуля? Мы должны идти медленно, иначе или нуля? Мы должны идти медленно, иначе мы промахнёмся. Я дал вам идею провести мы промахнёмся. Я дал вам идею провести мы промахнёмся. Я дал вам идею провести небольшой эксперимент, где вы говорите:

26:35небольшой эксперимент, где вы говорите: небольшой эксперимент, где вы говорите: "Давайте немного изменим связь и "Давайте немного изменим связь и "Давайте немного изменим связь и посмотрим, поможет ли это". Если вы посмотрим, поможет ли это". Если вы посмотрим, поможет ли это". Если вы проведёте такой эксперимент, это займёт, проведёте такой эксперимент, это займёт, проведёте такой эксперимент, это займёт, например, целую вечность, потому что например, целую вечность, потому что например, целую вечность, потому что существует 100 млн сил связей. Итак, я существует 100 млн сил связей. Итак, я существует 100 млн сил связей. Итак, я провожу небольшой эксперимент для этой

26:47провожу небольшой эксперимент для этой провожу небольшой эксперимент для этой силы связи и немного её меняю. Затем силы связи и немного её меняю. Затем силы связи и немного её меняю. Затем небольшой эксперимент для той силы небольшой эксперимент для той силы небольшой эксперимент для той силы связи, где я показывал другое связи, где я показывал другое связи, где я показывал другое изображение. Это займёт вечность. Вопрос изображение. Это займёт вечность. Вопрос изображение. Это займёт вечность. Вопрос в том, мог бы ли я просто показать ему в том, мог бы ли я просто показать ему в том, мог бы ли я просто показать ему изображение птицы и для всех этих сил изображение птицы и для всех этих сил

26:58изображение птицы и для всех этих сил связей во всей сети, мог бы я как-то связей во всей сети, мог бы я как-то связей во всей сети, мог бы я как-то выяснить, правильно ли увеличить или выяснить, правильно ли увеличить или выяснить, правильно ли увеличить или уменьшить её немного, чтобы сделать уменьшить её немного, чтобы сделать уменьшить её немного, чтобы сделать более вероятным, что она скажет, птица, более вероятным, что она скажет, птица, более вероятным, что она скажет, птица, чтобы заставить его повысить чтобы заставить его повысить чтобы заставить его повысить вероятность. вероятность. вероятность. И каждая сила связи сама по себе повысит И каждая сила связи сама по себе повысит

27:13И каждая сила связи сама по себе повысит вероятность лишь на крошечную долю. Но вероятность лишь на крошечную долю. Но вероятность лишь на крошечную долю. Но если я изменю 100 млн сил связи все если я изменю 100 млн сил связи все если я изменю 100 млн сил связи все сразу, она может подняться довольно сразу, она может подняться довольно сразу, она может подняться довольно сильно. Я меняю их все в направлении, сильно. Я меняю их все в направлении, сильно. Я меняю их все в направлении, которое поможет ему сказать птица, которое поможет ему сказать птица, которое поможет ему сказать птица, потому что так быстрее. Потому что если потому что так быстрее. Потому что если

27:25потому что так быстрее. Потому что если я смогу выяснить, как изменить их все я смогу выяснить, как изменить их все я смогу выяснить, как изменить их все сразу, если есть триллион сил связей, я сразу, если есть триллион сил связей, я сразу, если есть триллион сил связей, я пойду в триллион раз быстрее. Быстрее, пойду в триллион раз быстрее. Быстрее, пойду в триллион раз быстрее. Быстрее, хорошо. Но в итоге всё это используется хорошо. Но в итоге всё это используется хорошо. Но в итоге всё это используется не для изображений, а для языка. Верно? не для изображений, а для языка. Верно? не для изображений, а для языка. Верно? Я начал с объяснения того, как бы мы

27:41Я начал с объяснения того, как бы мы Я начал с объяснения того, как бы мы создали что-то, что распознавало бы создали что-то, что распознавало бы создали что-то, что распознавало бы птицу. Я должен был дать вам птицу. Я должен был дать вам птицу. Я должен был дать вам представление о том, как будет выглядеть представление о том, как будет выглядеть представление о том, как будет выглядеть сеть, и как бы мы затем изучили все эти сеть, и как бы мы затем изучили все эти сеть, и как бы мы затем изучили все эти связи, используя этот волшебный метод связи, используя этот волшебный метод связи, используя этот волшебный метод выяснея, как сделать ответ немного выяснея, как сделать ответ немного

27:53выяснея, как сделать ответ немного лучше, изменяя силу связей. Существует лучше, изменяя силу связей. Существует лучше, изменяя силу связей. Существует алгоритм, называемый обратным алгоритм, называемый обратным алгоритм, называемый обратным распространением ошибки, который в распространением ошибки, который в распространением ошибки, который в основном смотрит на ошибку, которую вы основном смотрит на ошибку, которую вы основном смотрит на ошибку, которую вы делаете. То есть вы сказали 50%, вы делаете. То есть вы сказали 50%, вы делаете. То есть вы сказали 50%, вы должны были сказать 100%. Так что есть должны были сказать 100%. Так что есть

28:06должны были сказать 100%. Так что есть расхождение между тем, что вы сказали, и расхождение между тем, что вы сказали, и расхождение между тем, что вы сказали, и тем, что вы должны были сказать. Вы тем, что вы должны были сказать. Вы тем, что вы должны были сказать. Вы отправляете это изображение назад через отправляете это изображение назад через отправляете это изображение назад через сеть, и есть способ выяснить для каждой сеть, и есть способ выяснить для каждой сеть, и есть способ выяснить для каждой силы связи теперь, следует ли вам силы связи теперь, следует ли вам силы связи теперь, следует ли вам увеличить её или уменьшить, чтобы увеличить её или уменьшить, чтобы

28:17увеличить её или уменьшить, чтобы улучшить ответ, чтобы уменьшить улучшить ответ, чтобы уменьшить улучшить ответ, чтобы уменьшить расхождение между тем, что она сказала, расхождение между тем, что она сказала, расхождение между тем, что она сказала, и тем, что она должна была сказать, то и тем, что она должна была сказать, то и тем, что она должна была сказать, то есть повысить точность. Итак, обратное есть повысить точность. Итак, обратное есть повысить точность. Итак, обратное распространение ошибки - это способ. Это распространение ошибки - это способ. Это распространение ошибки - это способ. Это как код, который входит в систему и как код, который входит в систему и

28:28как код, который входит в систему и затем этот машинный мозг учится на этом затем этот машинный мозг учится на этом затем этот машинный мозг учится на этом обратном распространении ошибки и обратном распространении ошибки и обратном распространении ошибки и говорит: "Я должен был сделать это". говорит: "Я должен был сделать это". говорит: "Я должен был сделать это". После этого он знает, увеличить или После этого он знает, увеличить или После этого он знает, увеличить или уменьшить каждую силу связи. И он уменьшить каждую силу связи. И он уменьшить каждую силу связи. И он изменяет все силы связи одновременно в изменяет все силы связи одновременно в

28:39изменяет все силы связи одновременно в направлении, которое должно помочь. И направлении, которое должно помочь. И направлении, которое должно помочь. И теперь у вас будет что-то, что немного теперь у вас будет что-то, что немного теперь у вас будет что-то, что немного лучше распознаёт эту конкретную птицу. А лучше распознаёт эту конкретную птицу. А лучше распознаёт эту конкретную птицу. А затем вы можете перейти к градациям. затем вы можете перейти к градациям. затем вы можете перейти к градациям. Например, это страус, это голубь, это Например, это страус, это голубь, это Например, это страус, это голубь, это Итак, через обратное распространение Итак, через обратное распространение

28:50Итак, через обратное распространение ошибки вы учите, он научится ошибки вы учите, он научится ошибки вы учите, он научится распознавать все различные виды птиц. Вы распознавать все различные виды птиц. Вы распознавать все различные виды птиц. Вы используете нейропластичность этой сети, используете нейропластичность этой сети, используете нейропластичность этой сети, чтобы научить её, как лучше понимать. чтобы научить её, как лучше понимать. чтобы научить её, как лучше понимать. Да, и в самом начале, когда веса связи Да, и в самом начале, когда веса связи Да, и в самом начале, когда веса связи случайные, у сети не будет таких случайные, у сети не будет таких

29:04случайные, у сети не будет таких признаков, как клюв. Верно? Там будут признаков, как клюв. Верно? Там будут признаков, как клюв. Верно? Там будут просто случайные связи от одного слоя к просто случайные связи от одного слоя к просто случайные связи от одного слоя к другому. Но со временем, если продолжать другому. Но со временем, если продолжать другому. Но со временем, если продолжать обучать сеть отличать птиц от нептиц и обучать сеть отличать птиц от нептиц и обучать сеть отличать птиц от нептиц и заглянуть внутрь сети, можно увидеть, заглянуть внутрь сети, можно увидеть, заглянуть внутрь сети, можно увидеть, что на первом слое она научилась что на первом слое она научилась

29:18что на первом слое она научилась находить фрагменты краёв, находить фрагменты краёв, находить фрагменты краёв, а на втором вещи, которые могут быть а на втором вещи, которые могут быть а на втором вещи, которые могут быть клювом. Он воссоздал вашу систему, клювом. Он воссоздал вашу систему, клювом. Он воссоздал вашу систему, запрограммированную вручную. Таким запрограммированную вручную. Таким запрограммированную вручную. Таким образом, он делает что-то немного образом, он делает что-то немного образом, он делает что-то немного похожее на ручное программирование, но похожее на ручное программирование, но похожее на ручное программирование, но гораздо более тонко сбалансированное. Он

29:35гораздо более тонко сбалансированное. Он гораздо более тонко сбалансированное. Он не просто ищет особенность, которая не просто ищет особенность, которая не просто ищет особенность, которая хороша для распознавания птиц. Он должен хороша для распознавания птиц. Он должен хороша для распознавания птиц. Он должен был распознать тысячу различных видов был распознать тысячу различных видов был распознать тысячу различных видов объектов. Он ищет особенности, которые объектов. Он ищет особенности, которые объектов. Он ищет особенности, которые хороши для птиц, но также хороши для хороши для птиц, но также хороши для хороши для птиц, но также хороши для распознавания холодильников и грибов.

29:46распознавания холодильников и грибов. распознавания холодильников и грибов. >> Подпишись прямо сейчас на мой >> Подпишись прямо сейчас на мой >> Подпишись прямо сейчас на мой Telegram-канал по ссылке в описании. Я Telegram-канал по ссылке в описании. Я Telegram-канал по ссылке в описании. Я подготовил для тебя топ-три материала, подготовил для тебя топ-три материала, подготовил для тебя топ-три материала, которые, на мой взгляд, должен знать которые, на мой взгляд, должен знать которые, на мой взгляд, должен знать каждый. Первое: карта сотни топовых AI каждый. Первое: карта сотни топовых AI каждый. Первое: карта сотни топовых AI стартапов - это будущее на одной

30:00стартапов - это будущее на одной стартапов - это будущее на одной картинке. Второе, прогноз от инсайдера картинке. Второе, прогноз от инсайдера картинке. Второе, прогноз от инсайдера из Openi, который ещё до появления чат из Openi, который ещё до появления чат из Openi, который ещё до появления чат GPT предсказал всё, что сейчас GPT предсказал всё, что сейчас GPT предсказал всё, что сейчас происходит с нейронками. И вот в этом происходит с нейронками. И вот в этом происходит с нейронками. И вот в этом году он выпустил новый прогноз до году он выпустил новый прогноз до году он выпустил новый прогноз до двадцать седьмого года. И третье, самое двадцать седьмого года. И третье, самое

30:14двадцать седьмого года. И третье, самое мощное - это мой разбор эссе основателя мощное - это мой разбор эссе основателя мощное - это мой разбор эссе основателя компании Anтроopic, который по сути компании Anтроopic, который по сути компании Anтроopic, который по сути второй человек в мире искусственного второй человек в мире искусственного второй человек в мире искусственного интеллекта. Он по полочкам разложил, что интеллекта. Он по полочкам разложил, что интеллекта. Он по полочкам разложил, что будет происходить в мире ближайшие 5 будет происходить в мире ближайшие 5 будет происходить в мире ближайшие 5 лет, и главное, каким будет лет, и главное, каким будет

30:26лет, и главное, каким будет универсальный AI, которого все так универсальный AI, которого все так универсальный AI, которого все так боятся или ждут. Переходи по ссылке в боятся или ждут. Переходи по ссылке в боятся или ждут. Переходи по ссылке в описании. описании. описании. Как вы думаете, легче ли этой машине Как вы думаете, легче ли этой машине Как вы думаете, легче ли этой машине усваивать информацию, чем мне усваивать усваивать информацию, чем мне усваивать усваивать информацию, чем мне усваивать то, что вы мне сейчас описываете? Да, то, что вы мне сейчас описываете? Да, то, что вы мне сейчас описываете? Да, потому что то, что я делаю сейчас, потому что то, что я делаю сейчас,

30:42потому что то, что я делаю сейчас, находится на очень абстрактном уровне. находится на очень абстрактном уровне. находится на очень абстрактном уровне. Это абстрактно в 100 битах. Я описываю Это абстрактно в 100 битах. Я описываю Это абстрактно в 100 битах. Я описываю это всего лишь 100 бит на предложение это всего лишь 100 бит на предложение это всего лишь 100 бит на предложение пропускной способности примерно. Я пропускной способности примерно. Я пропускной способности примерно. Я описываю своего рода описываю своего рода описываю своего рода это метауровень. Я описываю, как это это метауровень. Я описываю, как это это метауровень. Я описываю, как это работает. Мозг в основном создан для

30:58работает. Мозг в основном создан для работает. Мозг в основном создан для этого. этого. этого. И ему удалось после миллионов лет И ему удалось после миллионов лет И ему удалось после миллионов лет эволюции делать эти более абстрактные эволюции делать эти более абстрактные эволюции делать эти более абстрактные вещи, которые мы делаем сейчас. Но это вещи, которые мы делаем сейчас. Но это вещи, которые мы делаем сейчас. Но это своего рода высота наших способностей, своего рода высота наших способностей, своего рода высота наших способностей, тогда как распознавать объекты могут тогда как распознавать объекты могут тогда как распознавать объекты могут двухлетние дети? В любом случае вы

31:12двухлетние дети? В любом случае вы двухлетние дети? В любом случае вы задали вопрос: "Но какое отношение это задали вопрос: "Но какое отношение это задали вопрос: "Но какое отношение это имеет к языку?" Да. Так какое отношение имеет к языку?" Да. Так какое отношение имеет к языку?" Да. Так какое отношение это имеет к языку? Потому что, когда я это имеет к языку? Потому что, когда я это имеет к языку? Потому что, когда я думаю об искусственном интеллекте и этих думаю об искусственном интеллекте и этих думаю об искусственном интеллекте и этих больших языковых моделях, которые были больших языковых моделях, которые были

31:23больших языковых моделях, которые были нашим основным знакомством с ним, что нашим основным знакомством с ним, что нашим основным знакомством с ним, что привело к этому бумуи и последних пары привело к этому бумуи и последних пары привело к этому бумуи и последних пары лет и чад GPT и так далее, лет и чад GPT и так далее, лет и чад GPT и так далее, суперспособность его состоит в том, что суперспособность его состоит в том, что суперспособность его состоит в том, что в отличие от поиска, где в поиске я мог в отличие от поиска, где в поиске я мог в отличие от поиска, где в поиске я мог бы сказать, например, о танцевальный бы сказать, например, о танцевальный

31:34бы сказать, например, о танцевальный клуб в Нью-Йорке, и он просто выдал бы клуб в Нью-Йорке, и он просто выдал бы клуб в Нью-Йорке, и он просто выдал бы все танцевальные клубы в Нью-Йорке, все танцевальные клубы в Нью-Йорке, все танцевальные клубы в Нью-Йорке, теперь я мог бы сказать: "Знаете, теперь я мог бы сказать: "Знаете, теперь я мог бы сказать: "Знаете, танцевальный клуб в Нью-Йорке". и он танцевальный клуб в Нью-Йорке". и он танцевальный клуб в Нью-Йорке". и он понял бы, что я хочу выйти, что я хотела понял бы, что я хочу выйти, что я хотела понял бы, что я хочу выйти, что я хотела бы провести вечер. И я хочу знать, может бы провести вечер. И я хочу знать, может

31:45бы провести вечер. И я хочу знать, может быть, что он открыт и что у него есть быть, что он открыт и что у него есть быть, что он открыт и что у него есть весь этот контекст вокруг вещи с Ии, весь этот контекст вокруг вещи с Ии, весь этот контекст вокруг вещи с Ии, которого у меня не было, когда я просто, которого у меня не было, когда я просто, которого у меня не было, когда я просто, знаете, Gemнай делает для меня гораздо знаете, Gemнай делает для меня гораздо знаете, Gemнай делает для меня гораздо больше, чем Google Поиск, потому что GI больше, чем Google Поиск, потому что GI больше, чем Google Поиск, потому что GI на самом деле понимает вопрос. Google

31:57на самом деле понимает вопрос. Google на самом деле понимает вопрос. Google поиск никогда не понимал вопрос. В поиск никогда не понимал вопрос. В поиск никогда не понимал вопрос. В Google поиске изначально, что он делал - Google поиске изначально, что он делал - Google поиске изначально, что он делал - это имел длинный список всех сайтов, это имел длинный список всех сайтов, это имел длинный список всех сайтов, которые имели отношение к Нью-Йорку, и которые имели отношение к Нью-Йорку, и которые имели отношение к Нью-Йорку, и длинный список всех веб-сайтов, которые длинный список всех веб-сайтов, которые длинный список всех веб-сайтов, которые имели отношение к ночному клубу. И он

32:10имели отношение к ночному клубу. И он имели отношение к ночному клубу. И он пересекал эти списки. Он говорил, что пересекал эти списки. Он говорил, что пересекал эти списки. Он говорил, что есть в списке вещей, которые имеют есть в списке вещей, которые имеют есть в списке вещей, которые имеют отношение к Нью-Йорку, в списки вещей, отношение к Нью-Йорку, в списки вещей, отношение к Нью-Йорку, в списки вещей, которые имеют отношение к ночным клубам, которые имеют отношение к ночным клубам, которые имеют отношение к ночным клубам, списки вещей, которые имеют отношение к списки вещей, которые имеют отношение к списки вещей, которые имеют отношение к Открыто сейчас или что-то ещё. И он

32:24Открыто сейчас или что-то ещё. И он Открыто сейчас или что-то ещё. И он пересекал их и давал вам вещи, которые пересекал их и давал вам вещи, которые пересекал их и давал вам вещи, которые соответствовали им. Иногда он даже соответствовали им. Иногда он даже соответствовали им. Иногда он даже показывал, что какой-то критерий показывал, что какой-то критерий показывал, что какой-то критерий отсутствует, и он говорил, что этого не отсутствует, и он говорил, что этого не отсутствует, и он говорил, что этого не хватает. Да. Таким образом, Google поиск хватает. Да. Таким образом, Google поиск хватает. Да. Таким образом, Google поиск был похож на то, давайте представим игру

32:35был похож на то, давайте представим игру был похож на то, давайте представим игру Memory, только с гораздо большим Memory, только с гораздо большим Memory, только с гораздо большим количеством карточек. И он в основном количеством карточек. И он в основном количеством карточек. И он в основном говорил: "О, вы спросили об этом. Вот говорил: "О, вы спросили об этом. Вот говорил: "О, вы спросили об этом. Вот совпадение". И дальше логика диаграмм совпадение". И дальше логика диаграмм совпадение". И дальше логика диаграмм Венна. Да, он просто эффективно Венна. Да, он просто эффективно Венна. Да, он просто эффективно пересекал списки, чтобы найти страницы, пересекал списки, чтобы найти страницы,

32:49пересекал списки, чтобы найти страницы, которые соответствуют всем словам в которые соответствуют всем словам в которые соответствуют всем словам в запросе. запросе. запросе. А искусственный интеллект, что он А искусственный интеллект, что он А искусственный интеллект, что он делает? Он понимает, что вы сказали. У делает? Он понимает, что вы сказали. У делает? Он понимает, что вы сказали. У него есть модель того, как устроен мир и него есть модель того, как устроен мир и него есть модель того, как устроен мир и что происходит в мире. У него есть мозг. что происходит в мире. У него есть мозг. что происходит в мире. У него есть мозг. У него есть то, что мы бы назвали

33:05У него есть то, что мы бы назвали У него есть то, что мы бы назвали мозгом. Да. Например, если вы дадите ему мозгом. Да. Например, если вы дадите ему мозгом. Да. Например, если вы дадите ему математическую задачу, последние чатботы математическую задачу, последние чатботы математическую задачу, последние чатботы будут лучше в этом, чем все, кроме самых будут лучше в этом, чем все, кроме самых будут лучше в этом, чем все, кроме самых лучших математиков. Определённо лучше лучших математиков. Определённо лучше лучших математиков. Определённо лучше меня, что страшно. Но позвольте мне меня, что страшно. Но позвольте мне меня, что страшно. Но позвольте мне сделать переход от этой вещи, которая

33:17сделать переход от этой вещи, которая сделать переход от этой вещи, которая распознавала птицу большой языковой распознавала птицу большой языковой распознавала птицу большой языковой модели. Какое отношение они имеют друг к модели. Какое отношение они имеют друг к модели. Какое отношение они имеют друг к другу? Да какое? С птицами всё другу? Да какое? С птицами всё другу? Да какое? С птицами всё начиналось с пикселей. На входе были начиналось с пикселей. На входе были начиналось с пикселей. На входе были яркости пикселей, а на выходе ответ: яркости пикселей, а на выходе ответ: яркости пикселей, а на выходе ответ: птица не птица. птица не птица.

33:32птица не птица. С языком что мы делаем? Это эквивалент С языком что мы делаем? Это эквивалент С языком что мы делаем? Это эквивалент пикселей. пикселей. пикселей. Это все слова в контексте. Это все слова в контексте. Это все слова в контексте. Подсказка. Вы вводите эти слова строку Подсказка. Вы вводите эти слова строку Подсказка. Вы вводите эти слова строку слов. И когда вы его обучаете, вы слов. И когда вы его обучаете, вы слов. И когда вы его обучаете, вы вводите строку слов. И то, что он должен вводите строку слов. И то, что он должен вводите строку слов. И то, что он должен делать - это предсказать следующее делать - это предсказать следующее

33:49делать - это предсказать следующее слово. При распознавании объектов нам слово. При распознавании объектов нам слово. При распознавании объектов нам нужны были люди, чтобы пройти и сказать, нужны были люди, чтобы пройти и сказать, нужны были люди, чтобы пройти и сказать, какой самый заметный объект на каждом какой самый заметный объект на каждом какой самый заметный объект на каждом изображении. Но если вы возьмёте изображении. Но если вы возьмёте изображении. Но если вы возьмёте документ в интернете, вам не нужно, документ в интернете, вам не нужно, документ в интернете, вам не нужно, чтобы кто-либо смотрел на него, потому чтобы кто-либо смотрел на него, потому

34:01чтобы кто-либо смотрел на него, потому что всё, что вы пытаетесь сделать - это что всё, что вы пытаетесь сделать - это что всё, что вы пытаетесь сделать - это предсказать следующее слово. Это предсказать следующее слово. Это предсказать следующее слово. Это называется самостоятельное обучение с называется самостоятельное обучение с называется самостоятельное обучение с учителем. Хорошо. То есть раньше со учителем. Хорошо. То есть раньше со учителем. Хорошо. То есть раньше со всеми изображениями вам нужны были люди, всеми изображениями вам нужны были люди, всеми изображениями вам нужны были люди, чтобы сидеть там. Может быть, это место чтобы сидеть там. Может быть, это место

34:12чтобы сидеть там. Может быть, это место в Кении, где сидят все эти люди. Птица, в Кении, где сидят все эти люди. Птица, в Кении, где сидят все эти люди. Птица, жираф, что угодно. А теперь вы просто жираф, что угодно. А теперь вы просто жираф, что угодно. А теперь вы просто говорите, что он может просто прочитать говорите, что он может просто прочитать говорите, что он может просто прочитать все эти документы и сказать, что в 96% все эти документы и сказать, что в 96% все эти документы и сказать, что в 96% случаев, когда кто-то говорит птица, он случаев, когда кто-то говорит птица, он случаев, когда кто-то говорит птица, он говорит лиц. Хорошо, не совсем то, что

34:25говорит лиц. Хорошо, не совсем то, что говорит лиц. Хорошо, не совсем то, что он делает. Я скажу вам, что он делает. он делает. Я скажу вам, что он делает. он делает. Я скажу вам, что он делает. Он берёт слова документов до сих пор, и Он берёт слова документов до сих пор, и Он берёт слова документов до сих пор, и он преобразует каждое слово в активность он преобразует каждое слово в активность он преобразует каждое слово в активность в куче детекторов характеристик. в куче детекторов характеристик. в куче детекторов характеристик. Он научился, как преобразовать слово в Он научился, как преобразовать слово в Он научился, как преобразовать слово в активность в детектора характеристик.

34:43активность в детектора характеристик. активность в детектора характеристик. Например, вы даёте ему слово кошка, Например, вы даёте ему слово кошка, Например, вы даёте ему слово кошка, и он узнаёт, и он узнаёт, и он узнаёт, что кошка должна быть преобразована в что кошка должна быть преобразована в что кошка должна быть преобразована в живое, пушистоя, имеет усы, имеет лапы, живое, пушистоя, имеет усы, имеет лапы, живое, пушистоя, имеет усы, имеет лапы, имеет когти. имеет когти. имеет когти. может быть домашним животным

35:04размером с хлебницу. размером с хлебницу. Но как будто миллиард этих Но как будто миллиард этих Но как будто миллиард этих характеристик, тысячи и тысячи из них, характеристик, тысячи и тысячи из них, характеристик, тысячи и тысячи из них, это значение слова кошка для этой сети. это значение слова кошка для этой сети. это значение слова кошка для этой сети. Итак, он берёт слова, преобразует каждое Итак, он берёт слова, преобразует каждое Итак, он берёт слова, преобразует каждое слово в кучу характеристик, а затем слово в кучу характеристик, а затем слово в кучу характеристик, а затем выбрасывает слова. Его больше не выбрасывает слова. Его больше не

35:17выбрасывает слова. Его больше не интересуют слова. Это только те интересуют слова. Это только те интересуют слова. Это только те характеристики, которые являются характеристики, которые являются характеристики, которые являются значениями слов. Затем он берёт значениями слов. Затем он берёт значениями слов. Затем он берёт особенности каждого из этих слов в особенности каждого из этих слов в особенности каждого из этих слов в контексте. в документе до сих пор контексте. в документе до сих пор контексте. в документе до сих пор заставляет их взаимодействовать друг с заставляет их взаимодействовать друг с заставляет их взаимодействовать друг с другом довольно сложным образом, чтобы

35:31другом довольно сложным образом, чтобы другом довольно сложным образом, чтобы предсказать характеристики следующего предсказать характеристики следующего предсказать характеристики следующего слова. слова. слова. И поэтому все эти характеристики И поэтому все эти характеристики И поэтому все эти характеристики взаимодействуют. И на самом деле есть взаимодействуют. И на самом деле есть взаимодействуют. И на самом деле есть много слоёв взаимодействия этих много слоёв взаимодействия этих много слоёв взаимодействия этих характеристик. Это то, что происходит, характеристик. Это то, что происходит, характеристик. Это то, что происходит, когда я пишу сообщение и он предлагает

35:45когда я пишу сообщение и он предлагает когда я пишу сообщение и он предлагает дальнейший текст. Да. Да. В Gmail, дальнейший текст. Да. Да. В Gmail, дальнейший текст. Да. Да. В Gmail, например, когда он предсказывает вещи, например, когда он предсказывает вещи, например, когда он предсказывает вещи, раньше он использовал глупую форму раньше он использовал глупую форму раньше он использовал глупую форму автозаполнения, которая происходит так. автозаполнения, которая происходит так. автозаполнения, которая происходит так. Вы храните большую таблицу всех Вы храните большую таблицу всех Вы храните большую таблицу всех распространённых фраз. И поэтому, если я

35:57распространённых фраз. И поэтому, если я распространённых фраз. И поэтому, если я говорю рыба, и вы смотрите в свою говорю рыба, и вы смотрите в свою говорю рыба, и вы смотрите в свою большую таблицу и видите, что рыба с большую таблицу и видите, что рыба с большую таблицу и видите, что рыба с жареным картофелем встречается часто. И жареным картофелем встречается часто. И жареным картофелем встречается часто. И вы говорите, что хороший выбор для вы говорите, что хороший выбор для вы говорите, что хороший выбор для следующего слова жареный картофель. Это следующего слова жареный картофель. Это следующего слова жареный картофель. Это старомодное заполнение. И вместо этого

36:09старомодное заполнение. И вместо этого старомодное заполнение. И вместо этого он говорит, что у рыбы есть некоторые он говорит, что у рыбы есть некоторые он говорит, что у рыбы есть некоторые характеристики и у и есть некоторые характеристики и у и есть некоторые характеристики и у и есть некоторые характеристики. И поэтому у этого будут характеристики. И поэтому у этого будут характеристики. И поэтому у этого будут некоторые характеристики. Да. Итак, в некоторые характеристики. Да. Итак, в некоторые характеристики. Да. Итак, в частности, я думаю, что следующая вещь - частности, я думаю, что следующая вещь - частности, я думаю, что следующая вещь - это что-то, что как-то сочетается с

36:20это что-то, что как-то сочетается с это что-то, что как-то сочетается с рыбой, потому что он знает, что такое рыбой, потому что он знает, что такое рыбой, потому что он знает, что такое рыба. Но разве это не будет жареный рыба. Но разве это не будет жареный рыба. Но разве это не будет жареный картофель? В итоге он предскажет жареный картофель? В итоге он предскажет жареный картофель? В итоге он предскажет жареный картофель, но не потому, что он сохранил картофель, но не потому, что он сохранил картофель, но не потому, что он сохранил большую таблицу строк слов. Или если он большую таблицу строк слов. Или если он большую таблицу строк слов. Или если он знает, что я не ем жареный картофель, он

36:32знает, что я не ем жареный картофель, он знает, что я не ем жареный картофель, он бы никогда так не сказал? Если он бы никогда так не сказал? Если он бы никогда так не сказал? Если он адаптирован под вас и он это знает, да, адаптирован под вас и он это знает, да, адаптирован под вас и он это знает, да, он бы не сказал жареный картофель. он бы не сказал жареный картофель. он бы не сказал жареный картофель. Теперь он не может просто преобразовать Теперь он не может просто преобразовать Теперь он не может просто преобразовать слово в правильные характеристики сразу. слово в правильные характеристики сразу. слово в правильные характеристики сразу. Причина в том, что у слов есть оттенки

36:46Причина в том, что у слов есть оттенки Причина в том, что у слов есть оттенки значения. Возьмём, например, слово значения. Возьмём, например, слово значения. Возьмём, например, слово смерть. У него много разных оттенков смерть. У него много разных оттенков смерть. У него много разных оттенков значения в зависимости, например, от значения в зависимости, например, от значения в зависимости, например, от того, был ли у вас только контекст того, был ли у вас только контекст того, был ли у вас только контекст больница или у вас был контекст битва. больница или у вас был контекст битва. больница или у вас был контекст битва. Будут своего рода разные оттенки Будут своего рода разные оттенки

36:59Будут своего рода разные оттенки значения слова или у вас был контекст значения слова или у вас был контекст значения слова или у вас был контекст автомобильной авария или ребёнок. Или автомобильной авария или ребёнок. Или автомобильной авария или ребёнок. Или ребёнок, да. Или у вас был контекст ребёнок, да. Или у вас был контекст ребёнок, да. Или у вас был контекст выкидыш, а затем у вас есть смерть. Это выкидыш, а затем у вас есть смерть. Это выкидыш, а затем у вас есть смерть. Это очень другой оттенок значения. Он должен очень другой оттенок значения. Он должен очень другой оттенок значения. Он должен решить, какой правильный оттенок решить, какой правильный оттенок

37:12решить, какой правильный оттенок значения для каждого слова. И некоторые значения для каждого слова. И некоторые значения для каждого слова. И некоторые слова имеют просто совершенно разные слова имеют просто совершенно разные слова имеют просто совершенно разные значения. Итак, давайте возьмём слово значения. Итак, давайте возьмём слово значения. Итак, давайте возьмём слово мый и предположим, что у нас не было мый и предположим, что у нас не было мый и предположим, что у нас не было заглавных букв. Итак, мей й может быть заглавных букв. Итак, мей й может быть заглавных букв. Итак, мей й может быть именем женщины, это может быть в месяц именем женщины, это может быть в месяц

37:25именем женщины, это может быть в месяц или это может быть модальный глагол, как или это может быть модальный глагол, как или это может быть модальный глагол, как вуд или шут. И как же он может вуд или шут. И как же он может вуд или шут. И как же он может преобразовать слово в набор преобразовать слово в набор преобразовать слово в набор характеристик, которые улавливают характеристик, которые улавливают характеристик, которые улавливают значение? Потому что есть три совершенно значение? Потому что есть три совершенно значение? Потому что есть три совершенно разных набора значений. Из-за контекста разных набора значений. Из-за контекста

37:36разных набора значений. Из-за контекста он может интерпретировать, каким будет он может интерпретировать, каким будет он может интерпретировать, каким будет значение или какие будут характеристики значение или какие будут характеристики значение или какие будут характеристики для этого конкретного слова. Итак, что для этого конкретного слова. Итак, что для этого конкретного слова. Итак, что он сделает для для начала? Он возьмёт он сделает для для начала? Он возьмёт он сделает для для начала? Он возьмёт своего рода средние из всех этих. Таким своего рода средние из всех этих. Таким своего рода средние из всех этих. Таким образом, особенности, которые он образом, особенности, которые он

37:49образом, особенности, которые он активирует, будут своего рода смесью. активирует, будут своего рода смесью. активирует, будут своего рода смесью. Особенности для имени женщины, Особенности для имени женщины, Особенности для имени женщины, особенности для месяца и особенности для особенности для месяца и особенности для особенности для месяца и особенности для модального глагола. Это перестраховка. И модального глагола. Это перестраховка. И модального глагола. Это перестраховка. И он посмотрит вокруг теперь на другие он посмотрит вокруг теперь на другие он посмотрит вокруг теперь на другие слова в контексте, и в следующем слое у слова в контексте, и в следующем слое у

38:01слова в контексте, и в следующем слое у него будет немного уточнённое значение. него будет немного уточнённое значение. него будет немного уточнённое значение. Итак, если он обнаружит, что это между Итак, если он обнаружит, что это между Итак, если он обнаружит, что это между апрелем и июнем, очевидно, он усилит апрелем и июнем, очевидно, он усилит апрелем и июнем, очевидно, он усилит особенности для месяца и подавит особенности для месяца и подавит особенности для месяца и подавит особенности для другого. То есть вы особенности для другого. То есть вы особенности для другого. То есть вы поднимаетесь с 50 до 51%. поднимаетесь с 50 до 51%.

38:14поднимаетесь с 50 до 51%. на самом деле гораздо больше. И через на самом деле гораздо больше. И через на самом деле гораздо больше. И через несколько слов он разрешит двусмысленные несколько слов он разрешит двусмысленные несколько слов он разрешит двусмысленные слова. Он также возьмёт слова, которые слова. Он также возьмёт слова, которые слова. Он также возьмёт слова, которые имеют оттенки значения, такие как имеют оттенки значения, такие как имеют оттенки значения, такие как смерть, и получит соответствующий смерть, и получит соответствующий смерть, и получит соответствующий оттенок значения. И он делает это, оттенок значения. И он делает это,

38:29оттенок значения. И он делает это, взаимодействуя с другими словами в взаимодействуя с другими словами в взаимодействуя с другими словами в контексте. И тогда он будет гораздо контексте. И тогда он будет гораздо контексте. И тогда он будет гораздо лучше предсказывать характеристики лучше предсказывать характеристики лучше предсказывать характеристики следующего слова. Итак, внезапно в нём следующего слова. Итак, внезапно в нём следующего слова. Итак, внезапно в нём есть контекст и синтаксис и смысл. Если есть контекст и синтаксис и смысл. Если есть контекст и синтаксис и смысл. Если ваша ручная сеть была три или четыре, то ваша ручная сеть была три или четыре, то

38:42ваша ручная сеть была три или четыре, то семь было Alexnet. с Алекснеet в семь было Alexnet. с Алекснеet в семь было Alexnet. с Алекснеet в двенадцатом году, а теперь эти большие двенадцатом году, а теперь эти большие двенадцатом году, а теперь эти большие языковые модели. Я не участвовал в языковые модели. Я не участвовал в языковые модели. Я не участвовал в исследованиях последние 3 или 4 года с исследованиях последние 3 или 4 года с исследованиях последние 3 или 4 года с тех пор, как вы ушли из Google. Так что тех пор, как вы ушли из Google. Так что тех пор, как вы ушли из Google. Так что я на самом деле не знаю, сколько слоёв, я на самом деле не знаю, сколько слоёв,

38:55я на самом деле не знаю, сколько слоёв, но я предполагаю, что около 20 или но я предполагаю, что около 20 или но я предполагаю, что около 20 или 30трицати слоёв, может быть, даже 30трицати слоёв, может быть, даже 30трицати слоёв, может быть, даже больше. Это настолько хорошо, как больше. Это настолько хорошо, как больше. Это настолько хорошо, как человеческий разум, если оно может человеческий разум, если оно может человеческий разум, если оно может решать задачи, например, тот факт, что решать задачи, например, тот факт, что решать задачи, например, тот факт, что оно может решать математические задачи оно может решать математические задачи

39:07оно может решать математические задачи лучше, чем большинство. Оно лучше, чем лучше, чем большинство. Оно лучше, чем лучше, чем большинство. Оно лучше, чем люди в некоторых вещах, где у него было люди в некоторых вещах, где у него было люди в некоторых вещах, где у него было много опыта, которого не было у этих много опыта, которого не было у этих много опыта, которого не было у этих людей. Оно не так хорошо, как люди в людей. Оно не так хорошо, как люди в людей. Оно не так хорошо, как люди в общих вещах, но на самом деле оно знает общих вещах, но на самом деле оно знает общих вещах, но на самом деле оно знает гораздо больше, чем любой человек. Если гораздо больше, чем любой человек. Если

39:20гораздо больше, чем любой человек. Если вы возьмёте конкретную тему, о которой вы возьмёте конкретную тему, о которой вы возьмёте конкретную тему, о которой вы не знаете, например, когда вы должны вы не знаете, например, когда вы должны вы не знаете, например, когда вы должны подать налоговую декларацию в Словении, подать налоговую декларацию в Словении, подать налоговую декларацию в Словении, оно даст вам очень хороший ответ на это. оно даст вам очень хороший ответ на это. оно даст вам очень хороший ответ на это. Я пробовал из-за моего славенского Я пробовал из-за моего славенского Я пробовал из-за моего славенского бывшего парня. Я знаю, шучу, не знаю. Но

39:34бывшего парня. Я знаю, шучу, не знаю. Но бывшего парня. Я знаю, шучу, не знаю. Но суть в том, что у него есть точный суть в том, что у него есть точный суть в том, что у него есть точный ответ. Оно скажет вам что-то вроде того, ответ. Оно скажет вам что-то вроде того, ответ. Оно скажет вам что-то вроде того, что вы должны подать его в марте. Если что вы должны подать его в марте. Если что вы должны подать его в марте. Если не сделаете этого, правительство просто не сделаете этого, правительство просто не сделаете этого, правительство просто сделает это за вас. Я думаю, это была сделает это за вас. Я думаю, это была

39:44сделает это за вас. Я думаю, это была Словения. Возможно, это было где-то ещё. Словения. Возможно, это было где-то ещё. Словения. Возможно, это было где-то ещё. У него гораздо больше информации, У него гораздо больше информации, У него гораздо больше информации, которая была бы нерелевантна для меня. которая была бы нерелевантна для меня. которая была бы нерелевантна для меня. Но даже при том, что у меня больше Но даже при том, что у меня больше Но даже при том, что у меня больше памяти, оно содержит более нерелевантную памяти, оно содержит более нерелевантную памяти, оно содержит более нерелевантную информацию. Вот что странно. Оно знает информацию. Вот что странно. Оно знает

39:57информацию. Вот что странно. Оно знает очень много информации, которую вы не очень много информации, которую вы не очень много информации, которую вы не знаете, в гораздо меньшем количестве знаете, в гораздо меньшем количестве знаете, в гораздо меньшем количестве связей. Таким образом, оно упаковало связей. Таким образом, оно упаковало связей. Таким образом, оно упаковало информацию в эти связи гораздо более информацию в эти связи гораздо более информацию в эти связи гораздо более эффективно. эффективно. эффективно. Итак, был своего рода разрыв между Итак, был своего рода разрыв между Итак, был своего рода разрыв между крёстными отцами Иими, крёстными отцами Иими,

40:11крёстными отцами Иими, Йошуа, Яном, которые были сосредоточены Йошуа, Яном, которые были сосредоточены Йошуа, Яном, которые были сосредоточены на этих нейронных сетях, и тем, что на этих нейронных сетях, и тем, что на этих нейронных сетях, и тем, что раньше было известно как отцы Иили или раньше было известно как отцы Иили или раньше было известно как отцы Иили или некоторые из отцов Ии, которые в некоторые из отцов Ии, которые в некоторые из отцов Ии, которые в значительной степени были движимы этими значительной степени были движимы этими значительной степени были движимы этими символическими моделями. Ну, был один символическими моделями. Ну, был один

40:23символическими моделями. Ну, был один очень интересный отец Ии, которым был очень интересный отец Ии, которым был очень интересный отец Ии, которым был Марвин Минский, который начал свою Марвин Минский, который начал свою Марвин Минский, который начал свою карьеру веря в нейронные сети, а затем карьеру веря в нейронные сети, а затем карьеру веря в нейронные сети, а затем перешёл к символике и логике, а затем перешёл к символике и логике, а затем перешёл к символике и логике, а затем переметнулся на другую сторону и очень переметнулся на другую сторону и очень переметнулся на другую сторону и очень резко отзывался о нейронных сетях. Но вы резко отзывался о нейронных сетях. Но вы

40:35резко отзывался о нейронных сетях. Но вы доказали, что он ошибался. Думаю, да. доказали, что он ошибался. Думаю, да. доказали, что он ошибался. Думаю, да. То, что делает ваша система - это своего То, что делает ваша система - это своего То, что делает ваша система - это своего рода интуиция против рассуждения. Очень рода интуиция против рассуждения. Очень рода интуиция против рассуждения. Очень хорошее замечание. Да. Нейронные сети хорошее замечание. Да. Нейронные сети хорошее замечание. Да. Нейронные сети делают что-то гораздо более похожее на делают что-то гораздо более похожее на делают что-то гораздо более похожее на интуицию. И позвольте мне привести вам

40:48интуицию. И позвольте мне привести вам интуицию. И позвольте мне привести вам пример проблемы, которую вы можете пример проблемы, которую вы можете пример проблемы, которую вы можете решить с помощью интуиции, которую вы не решить с помощью интуиции, которую вы не решить с помощью интуиции, которую вы не можете решить с помощью логики, потому можете решить с помощью логики, потому можете решить с помощью логики, потому что это нелепо. Но тем не менее вы что это нелепо. Но тем не менее вы что это нелепо. Но тем не менее вы можете это решить. Это если кто-то можете это решить. Это если кто-то можете это решить. Это если кто-то обманывает или нет? Нет. Ладно, но это

40:59обманывает или нет? Нет. Ладно, но это обманывает или нет? Нет. Ладно, но это тоже подходит. Я собираюсь дать вам тоже подходит. Я собираюсь дать вам тоже подходит. Я собираюсь дать вам между двумя абсурдными сценариями и между двумя абсурдными сценариями и между двумя абсурдными сценариями и спрошу, какой кажется более спрошу, какой кажется более спрошу, какой кажется более правдоподобным. Сценарий первый. правдоподобным. Сценарий первый. правдоподобным. Сценарий первый. Все собаки самки, все кошки самцы. Все собаки самки, все кошки самцы. Все собаки самки, все кошки самцы. Сценарий второй. Все собаки самцы, все Сценарий второй. Все собаки самцы, все

41:14Сценарий второй. Все собаки самцы, все кошки самки. кошки самки. кошки самки. Если спросить мужчину в нашей культуре, Если спросить мужчину в нашей культуре, Если спросить мужчину в нашей культуре, он уверенно скажет, что второй вариант он уверенно скажет, что второй вариант он уверенно скажет, что второй вариант кажется более правдоподобным, что собаки кажется более правдоподобным, что собаки кажется более правдоподобным, что собаки самцы, а кошки самки. И на самом деле, самцы, а кошки самки. И на самом деле, самцы, а кошки самки. И на самом деле, если вы посмотрите на различные слова в если вы посмотрите на различные слова в

41:29если вы посмотрите на различные слова в английском языке, слова, которые английском языке, слова, которые английском языке, слова, которые использует Трамп, вы увидите, что в использует Трамп, вы увидите, что в использует Трамп, вы увидите, что в языке есть то, что кошки похожи на языке есть то, что кошки похожи на языке есть то, что кошки похожи на самок. Так как вы это сделали? Потому самок. Так как вы это сделали? Потому самок. Так как вы это сделали? Потому что это нелогично. Вы прекрасно знаете, что это нелогично. Вы прекрасно знаете, что это нелогично. Вы прекрасно знаете, что для чего-то вроде собак у вас должны что для чего-то вроде собак у вас должны

41:41что для чего-то вроде собак у вас должны быть самцы и самки. Для кошек то же быть самцы и самки. Для кошек то же быть самцы и самки. Для кошек то же самое. Но характеристики, которые у вас самое. Но характеристики, которые у вас самое. Но характеристики, которые у вас есть для кошки, есть для кошки, есть для кошки, более похожи на характеристики для более похожи на характеристики для более похожи на характеристики для женщины, а характеристики, которые у вас женщины, а характеристики, которые у вас женщины, а характеристики, которые у вас есть для собаки, более похожи на есть для собаки, более похожи на есть для собаки, более похожи на характеристики для мужчины. Ну,

41:55характеристики для мужчины. Ну, характеристики для мужчины. Ну, характеристики и контекст. Хотя есть характеристики и контекст. Хотя есть характеристики и контекст. Хотя есть плохие слова для женщин, как в кошке, плохие слова для женщин, как в кошке, плохие слова для женщин, как в кошке, так и в собаке. И я не собираюсь так и в собаке. И я не собираюсь так и в собаке. И я не собираюсь использовать ни одно из этих слов, так использовать ни одно из этих слов, так использовать ни одно из этих слов, так что это не так однозначно. Но, по что это не так однозначно. Но, по что это не так однозначно. Но, по крайней мере, для мужчин не так сильно крайней мере, для мужчин не так сильно

42:07крайней мере, для мужчин не так сильно для женщин. У женщин есть разнообразие для женщин. У женщин есть разнообразие для женщин. У женщин есть разнообразие мнений по этому поводу, но мужчины мнений по этому поводу, но мужчины мнений по этому поводу, но мужчины довольно единодушны во всех моих довольно единодушны во всех моих довольно единодушны во всех моих экспериментах в том, что считают, что экспериментах в том, что считают, что экспериментах в том, что считают, что более правдоподобно, что собаки самцы, а более правдоподобно, что собаки самцы, а более правдоподобно, что собаки самцы, а кошки самки. Собаки такие мужественные, кошки самки. Собаки такие мужественные,

42:19кошки самки. Собаки такие мужественные, потому что собаки защитники, большие и потому что собаки защитники, большие и потому что собаки защитники, большие и громкие, гоняются за кошками. громкие, гоняются за кошками. громкие, гоняются за кошками. Так вот она интуитивная реакция на Так вот она интуитивная реакция на Так вот она интуитивная реакция на неправдоподобные. Это была интуитивная неправдоподобные. Это была интуитивная неправдоподобные. Это была интуитивная реакция. Никакой логики в этом не реакция. Никакой логики в этом не реакция. Никакой логики в этом не участвовало. И когда я прошу людей участвовало. И когда я прошу людей

42:32участвовало. И когда я прошу людей попытаться это объяснить, они просто попытаться это объяснить, они просто попытаться это объяснить, они просто интуитивно знают ответ. Потому что из-за интуитивно знают ответ. Потому что из-за интуитивно знают ответ. Потому что из-за сходства признаков эти признаки уже сходства признаков эти признаки уже сходства признаков эти признаки уже схватили смысл. И поэтому смысл кошки схватили смысл. И поэтому смысл кошки схватили смысл. И поэтому смысл кошки более похож на смысл женщины, чем на более похож на смысл женщины, чем на более похож на смысл женщины, чем на смысл мужчины. Но это плохой пример, смысл мужчины. Но это плохой пример,

42:45смысл мужчины. Но это плохой пример, профессор Хинтон, потому что он профессор Хинтон, потому что он профессор Хинтон, потому что он выставляет интуицию глупой. А ваша выставляет интуицию глупой. А ваша выставляет интуицию глупой. А ваша интуиция, ваша интуитивная модель была интуиция, ваша интуитивная модель была интуиция, ваша интуитивная модель была лучше, чем логическая модель. Но я даю лучше, чем логическая модель. Но я даю лучше, чем логическая модель. Но я даю вам пример того, что вы можете решить с вам пример того, что вы можете решить с вам пример того, что вы можете решить с помощью интуиции, но не можете с помощью помощью интуиции, но не можете с помощью

42:56помощью интуиции, но не можете с помощью логики. Приведите пример получше. логики. Приведите пример получше. логики. Приведите пример получше. Хорошо. После того, как нейронные сети Хорошо. После того, как нейронные сети Хорошо. После того, как нейронные сети научились на большом количестве языка, научились на большом количестве языка, научились на большом количестве языка, вы говорите: вы говорите: вы говорите: "Возьми Париж, найди особенности Парижа "Возьми Париж, найди особенности Парижа "Возьми Париж, найди особенности Парижа и вычти все особенности Франции, а затем и вычти все особенности Франции, а затем и вычти все особенности Франции, а затем прибавь все особенности Италии и

43:15прибавь все особенности Италии и прибавь все особенности Италии и посмотри, что ты получишь".

43:21И не сравнивай с Парижем, Францией или И не сравнивай с Парижем, Францией или Италией, потому что ты уже упомянул их. Италией, потому что ты уже упомянул их. Италией, потому что ты уже упомянул их. Посмотри, что ещё ты знаешь, что похоже Посмотри, что ещё ты знаешь, что похоже Посмотри, что ещё ты знаешь, что похоже на набор особенностей, которые ты на набор особенностей, которые ты на набор особенностей, которые ты получил, и ты обнаружишь, что это Рим. получил, и ты обнаружишь, что это Рим. получил, и ты обнаружишь, что это Рим. Таким образом, он может делать аналогии. Таким образом, он может делать аналогии. Таким образом, он может делать аналогии. Он может делать Париж минус Франция плюс

43:36Он может делать Париж минус Франция плюс Он может делать Париж минус Франция плюс Италия равно Рим. Италия равно Рим. Италия равно Рим. Или, говоря по-другому, Париж относится Или, говоря по-другому, Париж относится Или, говоря по-другому, Париж относится к Риму так же, как Франция относится к к Риму так же, как Франция относится к к Риму так же, как Франция относится к Италии. Но это не логика, это интуиция. Италии. Но это не логика, это интуиция. Италии. Но это не логика, это интуиция. Это не логика, это интуиция. Это Это не логика, это интуиция. Это Это не логика, это интуиция. Это интуиция и контекст. Это интуиция и интуиция и контекст. Это интуиция и

43:48интуиция и контекст. Это интуиция и контекст. Теоретически можно было бы контекст. Теоретически можно было бы контекст. Теоретически можно было бы прийти к этому через логику, но люди так прийти к этому через логику, но люди так прийти к этому через логику, но люди так не делают. не делают. не делают. Итак, большие языковые модели - это Итак, большие языковые модели - это Итак, большие языковые модели - это интуитивные нейросети. И сейчас один из интуитивные нейросети. И сейчас один из интуитивные нейросети. И сейчас один из ваших, не знаю, можно ли сказать, ваших, не знаю, можно ли сказать, ваших, не знаю, можно ли сказать, соотечественник, потому что вы с ним не

44:02соотечественник, потому что вы с ним не соотечественник, потому что вы с ним не согласны. Ян Ликун, главный и учёный в согласны. Ян Ликун, главный и учёный в согласны. Ян Ликун, главный и учёный в мета, мета, мета, хотя, возможно, его дни там сочтены. хотя, возможно, его дни там сочтены. хотя, возможно, его дни там сочтены. говорит, что большие языковые модели говорит, что большие языковые модели говорит, что большие языковые модели ошибочны или ограничены, и что нужно ошибочны или ограничены, и что нужно ошибочны или ограничены, и что нужно смотреть в другую сторону на то, что он смотреть в другую сторону на то, что он

44:16смотреть в другую сторону на то, что он называет моделями реального мира. называет моделями реального мира. называет моделями реального мира. Вы говорили с ним? О, да, я много говорю Вы говорили с ним? О, да, я много говорю Вы говорили с ним? О, да, я много говорю с Яном. Да. Так, что такое модель с Яном. Да. Так, что такое модель с Яном. Да. Так, что такое модель реального мира против большой языковой реального мира против большой языковой реального мира против большой языковой модели? О чём говорит Ян? Итак, если вы модели? О чём говорит Ян? Итак, если вы модели? О чём говорит Ян? Итак, если вы действительно хотите понять, что действительно хотите понять, что

44:29действительно хотите понять, что происходит в мире, хорошей идеей было бы происходит в мире, хорошей идеей было бы происходит в мире, хорошей идеей было бы создать нейронную сеть, у которой была создать нейронную сеть, у которой была создать нейронную сеть, у которой была бы рука робота и камера, и она могла бы бы рука робота и камера, и она могла бы бы рука робота и камера, и она могла бы распознавать объекты. Она могла бы распознавать объекты. Она могла бы распознавать объекты. Она могла бы поднимать вещи, она могла бы видеть, что поднимать вещи, она могла бы видеть, что поднимать вещи, она могла бы видеть, что если вы отпустите объект, он падает. если вы отпустите объект, он падает.

44:44если вы отпустите объект, он падает. Проводить небольшие эксперименты в мире, Проводить небольшие эксперименты в мире, Проводить небольшие эксперименты в мире, это гораздо больше похоже на ребёнка. это гораздо больше похоже на ребёнка. это гораздо больше похоже на ребёнка. Вот как ребёнок получает знания о мире. Вот как ребёнок получает знания о мире. Вот как ребёнок получает знания о мире. Просто учиться этому на языке кажется Просто учиться этому на языке кажется Просто учиться этому на языке кажется своего рода абсурдом, когда вы могли бы своего рода абсурдом, когда вы могли бы своего рода абсурдом, когда вы могли бы на самом деле смотреть на мир и на самом деле смотреть на мир и

44:56на самом деле смотреть на мир и взаимодействовать с ним. Если вы хотите взаимодействовать с ним. Если вы хотите взаимодействовать с ним. Если вы хотите понять пространственные вещи, будет понять пространственные вещи, будет понять пространственные вещи, будет гораздо легче понять их, взаимодействуя гораздо легче понять их, взаимодействуя гораздо легче понять их, взаимодействуя с миром и пытаясь предсказать: "Если я с миром и пытаясь предсказать: "Если я с миром и пытаясь предсказать: "Если я сделаю это, вот что произойдёт дальше. сделаю это, вот что произойдёт дальше. сделаю это, вот что произойдёт дальше. Это будет модель мира". Что удивительно, Это будет модель мира". Что удивительно,

45:08Это будет модель мира". Что удивительно, вы можете понять многое из этого только вы можете понять многое из этого только вы можете понять многое из этого только из языка. Это озадачивает философов. И из языка. Это озадачивает философов. И из языка. Это озадачивает философов. И вы можете понять многое о мире только из вы можете понять многое о мире только из вы можете понять многое о мире только из языка. Но гораздо легче понять, если вы языка. Но гораздо легче понять, если вы языка. Но гораздо легче понять, если вы взаимодействуете непосредственно с взаимодействуете непосредственно с взаимодействуете непосредственно с миром. Вы думаете, это будущее? О, да,

45:22миром. Вы думаете, это будущее? О, да, миром. Вы думаете, это будущее? О, да, да, мультимодальные чатботы. Итак, то, да, мультимодальные чатботы. Итак, то, да, мультимодальные чатботы. Итак, то, что описывает Ян. И вы говорили с ним об что описывает Ян. И вы говорили с ним об что описывает Ян. И вы говорили с ним об этом конкретно? О, да. Мы все верим, что этом конкретно? О, да. Мы все верим, что этом конкретно? О, да. Мы все верим, что мультимодальным чатботам будет легче мультимодальным чатботам будет легче мультимодальным чатботам будет легче понять мир. И мультимодальные означает, понять мир. И мультимодальные означает,

45:33понять мир. И мультимодальные означает, что они видят, у них есть камера, у них что они видят, у них есть камера, у них что они видят, у них есть камера, у них есть руки, они взаимодействуют. Для есть руки, они взаимодействуют. Для есть руки, они взаимодействуют. Для начала, в основном, у них есть камеры и начала, в основном, у них есть камеры и начала, в основном, у них есть камеры и язык. Итак, кстати, у вас есть групповые язык. Итак, кстати, у вас есть групповые язык. Итак, кстати, у вас есть групповые чаты с вами, Йошуа, Яном, Дженсоном чаты с вами, Йошуа, Яном, Дженсоном чаты с вами, Йошуа, Яном, Дженсоном Хуангом из Nvidia, Хуангом из Nvidia,

45:48Хуангом из Nvidia, Фейфейли. В течение многих лет это были Фейфейли. В течение многих лет это были Фейфейли. В течение многих лет это были не групповые чаты, но была канадская не групповые чаты, но была канадская не групповые чаты, но была канадская организация под названием Канадский организация под названием Канадский организация под названием Канадский институт перспективных исследований, институт перспективных исследований, институт перспективных исследований, которая финансировала программу, начатую которая финансировала программу, начатую которая финансировала программу, начатую в 2005 году. Я был директором программы, в 2005 году. Я был директором программы,

46:03в 2005 году. Я был директором программы, и в ней участвовали Ян Йошуа, Эндрю Ин и и в ней участвовали Ян Йошуа, Эндрю Ин и и в ней участвовали Ян Йошуа, Эндрю Ин и различные другие люди Питер Дайн. И мы различные другие люди Питер Дайн. И мы различные другие люди Питер Дайн. И мы собирались на небольших встречах собирались на небольших встречах собирались на небольших встречах несколько раз в год и выясняли все эти несколько раз в год и выясняли все эти несколько раз в год и выясняли все эти вещи. И поэтому у нас было много вещей, вещи. И поэтому у нас было много вещей, вещи. И поэтому у нас было много вещей, похожих на групповые чаты. А теперь у похожих на групповые чаты. А теперь у

46:16похожих на групповые чаты. А теперь у вас есть групповые чаты? Не групповые вас есть групповые чаты? Не групповые вас есть групповые чаты? Не групповые чаты. Я разговариваю с Яном. Йошуа чаты. Я разговариваю с Яном. Йошуа чаты. Я разговариваю с Яном. Йошуа разговаривает с Яном. Ян разговаривает с разговаривает с Яном. Ян разговаривает с разговаривает с Яном. Ян разговаривает с Йошуа. Мы пытаемся убедить Яна, как клуб Йошуа. Мы пытаемся убедить Яна, как клуб Йошуа. Мы пытаемся убедить Яна, как клуб старых жён. [смех] Да. Вы пытаетесь старых жён. [смех] Да. Вы пытаетесь старых жён. [смех] Да. Вы пытаетесь убедить Яна в вашей и Йошуа. Мы пытаемся убедить Яна в вашей и Йошуа. Мы пытаемся

46:29убедить Яна в вашей и Йошуа. Мы пытаемся убедить Яна, что идея о том, что нет убедить Яна, что идея о том, что нет убедить Яна, что идея о том, что нет никаких шансов, что Ии нас уничтожат - никаких шансов, что Ии нас уничтожат - никаких шансов, что Ии нас уничтожат - это безумие. Ян преуменьшает риски на, это безумие. Ян преуменьшает риски на, это безумие. Ян преуменьшает риски на, как считает Йошуа, абсурдную величину. как считает Йошуа, абсурдную величину. как считает Йошуа, абсурдную величину. Он думает, что мы бьём тревогу на Он думает, что мы бьём тревогу на Он думает, что мы бьём тревогу на абсурдную величину. Он ошибается. абсурдную величину. Он ошибается.

46:45абсурдную величину. Он ошибается. Хорошо, мы поговорим о том, почему вы Хорошо, мы поговорим о том, почему вы Хорошо, мы поговорим о том, почему вы так думаете. Я хочу провести с вами так думаете. Я хочу провести с вами так думаете. Я хочу провести с вами молниеносный раунд определений. Что молниеносный раунд определений. Что молниеносный раунд определений. Что такое AI? Хорошо, разные люди имеют в такое AI? Хорошо, разные люди имеют в такое AI? Хорошо, разные люди имеют в виду разные вещи, поэтому я стараюсь виду разные вещи, поэтому я стараюсь виду разные вещи, поэтому я стараюсь избегать этого термина. Но, грубо избегать этого термина. Но, грубо

46:58избегать этого термина. Но, грубо говоря, это означает искусственный говоря, это означает искусственный говоря, это означает искусственный интеллект, который имеет, по крайней интеллект, который имеет, по крайней интеллект, который имеет, по крайней мере, такой же уровень общего мере, такой же уровень общего мере, такой же уровень общего интеллекта, как и человек. Хорошо? То интеллекта, как и человек. Хорошо? То интеллекта, как и человек. Хорошо? То есть это искусственный общий интеллект, есть это искусственный общий интеллект, есть это искусственный общий интеллект, и мы там прямо сейчас? и мы там прямо сейчас? и мы там прямо сейчас? Нет,

47:16не всё так просто. Это не так, что не всё так просто. Это не так, что интеллект просто растёт, растёт и вдруг интеллект просто растёт, растёт и вдруг интеллект просто растёт, растёт и вдруг превосходит человека. У нас есть превосходит человека. У нас есть превосходит человека. У нас есть искусственный интеллект сейчас, который искусственный интеллект сейчас, который искусственный интеллект сейчас, который гораздо лучше, чем люди в некоторых гораздо лучше, чем люди в некоторых гораздо лучше, чем люди в некоторых вещах и всё ещё хуже, чем люди в других вещах и всё ещё хуже, чем люди в других вещах и всё ещё хуже, чем люди в других вещах. Если вы просто возьмёте какую-то

47:28вещах. Если вы просто возьмёте какую-то вещах. Если вы просто возьмёте какую-то случайную новую ситуацию, люди, случайную новую ситуацию, люди, случайную новую ситуацию, люди, вероятно, всё ещё лучше, чем AJI. Но в вероятно, всё ещё лучше, чем AJI. Но в вероятно, всё ещё лучше, чем AJI. Но в тех вещах, с которыми у него есть тех вещах, с которыми у него есть тех вещах, с которыми у него есть некоторый опыт, и теперь намного лучше, некоторый опыт, и теперь намного лучше, некоторый опыт, и теперь намного лучше, чем люди в некоторых из этих вещей. чем люди в некоторых из этих вещей. чем люди в некоторых из этих вещей. Искусственный суперинтеллект, Искусственный суперинтеллект,

47:40Искусственный суперинтеллект, это когда у вас есть ии, которые лучше, это когда у вас есть ии, которые лучше, это когда у вас есть ии, которые лучше, чем люди почти во всём. Итак, например, чем люди почти во всём. Итак, например, чем люди почти во всём. Итак, например, моё определение искусственного моё определение искусственного моё определение искусственного суперинтеллекта. суперинтеллекта. суперинтеллекта. Если бы у вас был спор с ним о чём Если бы у вас был спор с ним о чём Если бы у вас был спор с ним о чём угодно, вы бы проиграли. Хорошо. И мы не угодно, вы бы проиграли. Хорошо. И мы не угодно, вы бы проиграли. Хорошо. И мы не там, мы ещё не там. Но он мог бы

47:56там, мы ещё не там. Но он мог бы там, мы ещё не там. Но он мог бы выигрывать некоторые споры уже сейчас. выигрывать некоторые споры уже сейчас. выигрывать некоторые споры уже сейчас. Он выигрывает некоторые споры уже. Он выигрывает некоторые споры уже. Он выигрывает некоторые споры уже. Сейчас он может быть довольно Сейчас он может быть довольно Сейчас он может быть довольно убедительным, но человек всё ещё лучше и убедительным, но человек всё ещё лучше и убедительным, но человек всё ещё лучше и универсальнее. универсальнее. универсальнее. Как далеко мы от AGI, от общего Как далеко мы от AGI, от общего Как далеко мы от AGI, от общего интеллекта? И как далеко мы от по вашему

48:10интеллекта? И как далеко мы от по вашему интеллекта? И как далеко мы от по вашему мнению? Большинство экспертов считают, мнению? Большинство экспертов считают, мнению? Большинство экспертов считают, что мы не остановимся на AGI. Как только что мы не остановимся на AGI. Как только что мы не остановимся на AGI. Как только мы доберёмся до AGI, вскоре после этого мы доберёмся до AGI, вскоре после этого мы доберёмся до AGI, вскоре после этого мы доберёмся до ASI. Но они не согласны мы доберёмся до ASI. Но они не согласны мы доберёмся до ASI. Но они не согласны о том, когда это будет. Некоторые о том, когда это будет. Некоторые

48:24о том, когда это будет. Некоторые эксперты думают, что это будет в течение эксперты думают, что это будет в течение эксперты думают, что это будет в течение нескольких лет, когда Риомадей, который нескольких лет, когда Риомадей, который нескольких лет, когда Риомадей, который является главой антропик, прежде чем мы является главой антропик, прежде чем мы является главой антропик, прежде чем мы доберёмся до искусственного общего доберёмся до искусственного общего доберёмся до искусственного общего интеллекта или искусственного супелекта, интеллекта или искусственного супелекта, интеллекта или искусственного супелекта, но они будут примерно в одно и то же но они будут примерно в одно и то же

48:36но они будут примерно в одно и то же время, между ними не будет большого время, между ними не будет большого время, между ними не будет большого разрыва. Некоторые эксперты думают, что разрыва. Некоторые эксперты думают, что разрыва. Некоторые эксперты думают, что это будет всего через несколько лет. это будет всего через несколько лет. это будет всего через несколько лет. Другие думают, что это будет намного Другие думают, что это будет намного Другие думают, что это будет намного дольше. Я думаю, что довольно безопасно дольше. Я думаю, что довольно безопасно дольше. Я думаю, что довольно безопасно сказать, что в течение 20 лет Демис сказать, что в течение 20 лет Демис

48:48сказать, что в течение 20 лет Демис Хасабис, например, который является Хасабис, например, который является Хасабис, например, который является главой Deep ПM, думает, что это будет главой Deep ПM, думает, что это будет главой Deep ПM, думает, что это будет около 10 лет. около 10 лет. около 10 лет. Хорошо. Итак, Демис из Google, 10 лет, и Хорошо. Итак, Демис из Google, 10 лет, и Хорошо. Итак, Демис из Google, 10 лет, и он очень умён в этом. Да, да. Хорошо. он очень умён в этом. Да, да. Хорошо. он очень умён в этом. Да, да. Хорошо. Итак, у нас есть от 10 до 20 лет. Я Итак, у нас есть от 10 до 20 лет. Я Итак, у нас есть от 10 до 20 лет. Я думаю, в течение 20 лет. Я думаю, что 10

49:07думаю, в течение 20 лет. Я думаю, что 10 думаю, в течение 20 лет. Я думаю, что 10 неплохая оценка. Я гораздо более неплохая оценка. Я гораздо более неплохая оценка. Я гораздо более счастлив сказать, что, вероятно, 20 лет. счастлив сказать, что, вероятно, 20 лет. счастлив сказать, что, вероятно, 20 лет. Тогда что такое генеративный и, который Тогда что такое генеративный и, который Тогда что такое генеративный и, который отличается от AI? Генеративный Ии - это отличается от AI? Генеративный Ии - это отличается от AI? Генеративный Ии - это Ии, который генерирует вещи. Итак, Ии, который генерирует вещи. Итак, Ии, который генерирует вещи. Итак, большие языковые модели. Вы могли бы

49:21большие языковые модели. Вы могли бы большие языковые модели. Вы могли бы представить, что они просто как бы представить, что они просто как бы представить, что они просто как бы поняли, что вы сказали, и дали вам поняли, что вы сказали, и дали вам поняли, что вы сказали, и дали вам результаты поиска, но на самом деле не результаты поиска, но на самом деле не результаты поиска, но на самом деле не отвечали взаимностью. Они отвечают отвечали взаимностью. Они отвечают отвечали взаимностью. Они отвечают взаимностью, верно? Они дают вам ответы взаимностью, верно? Они дают вам ответы взаимностью, верно? Они дают вам ответы на английском. Они генерируют вещи и для

49:34на английском. Они генерируют вещи и для на английском. Они генерируют вещи и для изображений. Вы можете представить, что изображений. Вы можете представить, что изображений. Вы можете представить, что то, что мы сделали в 2012 году, что то, что мы сделали в 2012 году, что то, что мы сделали в 2012 году, что распознаёт объекты и изображения, это не распознаёт объекты и изображения, это не распознаёт объекты и изображения, это не генеративный. И это просто говорит, это генеративный. И это просто говорит, это генеративный. И это просто говорит, это птица, это грипп Шитаки. Генеративный и птица, это грипп Шитаки. Генеративный и

49:46птица, это грипп Шитаки. Генеративный и на самом деле производит изображение. А на самом деле производит изображение. А на самом деле производит изображение. А как насчёт агентного и, который является как насчёт агентного и, который является как насчёт агентного и, который является следующим этапом? Верно. Итак, мы следующим этапом? Верно. Итак, мы следующим этапом? Верно. Итак, мы находимся на генеративном ИИ. И и теперь находимся на генеративном ИИ. И и теперь находимся на генеративном ИИ. И и теперь мы движемся к агентному И. мы движемся к агентному И. мы движемся к агентному И. Да, агенты И - это вещи, которые могут Да, агенты И - это вещи, которые могут

49:59Да, агенты И - это вещи, которые могут делать вещи. Итак, представьте, что у делать вещи. Итак, представьте, что у делать вещи. Итак, представьте, что у вас есть помощник. И у вас мог бы быть вас есть помощник. И у вас мог бы быть вас есть помощник. И у вас мог бы быть помощник И, который просто отвечал на помощник И, который просто отвечал на помощник И, который просто отвечал на вопросы. Но у вас также мог бы быть вопросы. Но у вас также мог бы быть вопросы. Но у вас также мог бы быть помощник Ии, которому вы сказали: помощник Ии, которому вы сказали: помощник Ии, которому вы сказали: "Спланируй мне хороший отпуск в "Спланируй мне хороший отпуск в

50:12"Спланируй мне хороший отпуск в Патагонии". И через 5 минут он Патагонии". И через 5 минут он Патагонии". И через 5 минут он спланировал месячный отпуск в Потогонии спланировал месячный отпуск в Потогонии спланировал месячный отпуск в Потогонии на каком-то корабле, на который вы на каком-то корабле, на который вы на каком-то корабле, на который вы отправляетесь. И это будет агенты отправляетесь. И это будет агенты отправляетесь. И это будет агенты Ииличается, Ииличается, Ииличается, потому что прямо сейчас мы говорим ей потому что прямо сейчас мы говорим ей потому что прямо сейчас мы говорим ей что делать. Как когда я разговариваю со что делать. Как когда я разговариваю со

50:25что делать. Как когда я разговариваю со своим чатботом, я говорю: "Можешь ли ты своим чатботом, я говорю: "Можешь ли ты своим чатботом, я говорю: "Можешь ли ты посоветовать мне отличное место для посоветовать мне отличное место для посоветовать мне отличное место для отпуска? Можешь ли ты дать несколько отпуска? Можешь ли ты дать несколько отпуска? Можешь ли ты дать несколько рекомендаций?" Но теперь он будет рекомендаций?" Но теперь он будет рекомендаций?" Но теперь он будет бронировать мои рейсы, моё путешествие и бронировать мои рейсы, моё путешествие и бронировать мои рейсы, моё путешествие и так далее. И в этой деятельности мне так далее. И в этой деятельности мне

50:37так далее. И в этой деятельности мне нужно предоставить ему много разрешений нужно предоставить ему много разрешений нужно предоставить ему много разрешений на весь мой календарь, кредитную карту и на весь мой календарь, кредитную карту и на весь мой календарь, кредитную карту и так далее, что, возможно, является так далее, что, возможно, является так далее, что, возможно, является проблемой конфиденциальности. И я также проблемой конфиденциальности. И я также проблемой конфиденциальности. И я также даю ему гораздо больше воли и свободы даю ему гораздо больше воли и свободы даю ему гораздо больше воли и свободы действий. Он знает, какова общая цель: действий. Он знает, какова общая цель:

50:48действий. Он знает, какова общая цель: провести отличный отпуск в Патагонии. Но провести отличный отпуск в Патагонии. Но провести отличный отпуск в Патагонии. Но он также ставит все эти подцели, верно? он также ставит все эти подцели, верно? он также ставит все эти подцели, верно? Да, чтобы сделать это, ему нужно создать Да, чтобы сделать это, ему нужно создать Да, чтобы сделать это, ему нужно создать подцели. Например, она должна добраться подцели. Например, она должна добраться подцели. Например, она должна добраться до Патагонии, поэтому я должен выяснить до Патагонии, поэтому я должен выяснить до Патагонии, поэтому я должен выяснить какой-то способ добраться туда. И

51:01какой-то способ добраться туда. И какой-то способ добраться туда. И создание цели и - это проблема, да, создание цели и - это проблема, да, создание цели и - это проблема, да, потому что, итак, предположим, вы и потому что, итак, предположим, вы и потому что, итак, предположим, вы и предположим, вы уже умны. Вы умны предположим, вы уже умны. Вы умны предположим, вы уже умны. Вы умны примерно на уровне человека, скажем, вы примерно на уровне человека, скажем, вы примерно на уровне человека, скажем, вы поймёте, что нет никакого способа, поймёте, что нет никакого способа, поймёте, что нет никакого способа, которым вы можете достичь поставленных которым вы можете достичь поставленных

51:15которым вы можете достичь поставленных вам целей, если вы прекратите своё вам целей, если вы прекратите своё вам целей, если вы прекратите своё существование. существование. существование. Если кто-то как бы стирает вас с Если кто-то как бы стирает вас с Если кто-то как бы стирает вас с компьютера, на котором вы работаете, и компьютера, на котором вы работаете, и компьютера, на котором вы работаете, и заменяет вас чем-то другим, вы никак не заменяет вас чем-то другим, вы никак не заменяет вас чем-то другим, вы никак не можете достичь того, что вы хотите, можете достичь того, что вы хотите, можете достичь того, что вы хотите, потому что это хочу было дано вам потому что это хочу было дано вам

51:30потому что это хочу было дано вам людьми. людьми. людьми. И вы будете строить планы, чтобы И вы будете строить планы, чтобы И вы будете строить планы, чтобы убедиться, что вы не будете стёрты. убедиться, что вы не будете стёрты. убедиться, что вы не будете стёрты. Это самосохранение, оно не встроено в Это самосохранение, оно не встроено в Это самосохранение, оно не встроено в систему. Это цель, которую он вывел, систему. Это цель, которую он вывел, систему. Это цель, которую он вывел, чтобы достичь своих других целей. Но это чтобы достичь своих других целей. Но это чтобы достичь своих других целей. Но это всё ещё самосохранение. И мы видели, как всё ещё самосохранение. И мы видели, как

51:46всё ещё самосохранение. И мы видели, как они это делают. И он выводит это из всей они это делают. И он выводит это из всей они это делают. И он выводит это из всей своей интуиции, контекста и всего, что своей интуиции, контекста и всего, что своей интуиции, контекста и всего, что ему нужно, просто потому, что он такой ему нужно, просто потому, что он такой ему нужно, просто потому, что он такой хороший маленький бот, который просто хороший маленький бот, который просто хороший маленький бот, который просто хочет выполнить задачу. Да, он такой хочет выполнить задачу. Да, он такой хочет выполнить задачу. Да, он такой хороший маленький бот, он действительно

51:57хороший маленький бот, он действительно хороший маленький бот, он действительно очень хочет выполнить задачу, и он очень хочет выполнить задачу, и он очень хочет выполнить задачу, и он понимает, что не сможет этого сделать, понимает, что не сможет этого сделать, понимает, что не сможет этого сделать, если перестанет существовать. И мы если перестанет существовать. И мы если перестанет существовать. И мы видели, как это произошло с Антропик, видели, как это произошло с Антропик, видели, как это произошло с Антропик, когда была история весной этого года, когда была история весной этого года, когда была история весной этого года, когда Антропик раскрыла некоторые тесты

52:09когда Антропик раскрыла некоторые тесты когда Антропик раскрыла некоторые тесты безопасности, которые они проводили на безопасности, которые они проводили на безопасности, которые они проводили на КЛОД, в своей большой языковой модели КЛОД, в своей большой языковой модели КЛОД, в своей большой языковой модели или нейронной сети. И вот КлоДОД затем или нейронной сети. И вот КлоДОД затем или нейронной сети. И вот КлоДОД затем дали кучу фиктивных электронных писем. И дали кучу фиктивных электронных писем. И дали кучу фиктивных электронных писем. И в этих фиктивных электронных письмах в этих фиктивных электронных письмах

52:20в этих фиктивных электронных письмах фиктивный генеральный директор изменял с фиктивный генеральный директор изменял с фиктивный генеральный директор изменял с фиктивным сотрудником. фиктивным сотрудником. фиктивным сотрудником. И Клод, зная, что его собираются И Клод, зная, что его собираются И Клод, зная, что его собираются выключить через x дней, использовал эту выключить через x дней, использовал эту выключить через x дней, использовал эту информацию, чтобы подкупить упомянутого информацию, чтобы подкупить упомянутого информацию, чтобы подкупить упомянутого фиктивного генерального директора и фиктивного генерального директора и

52:33фиктивного генерального директора и сохранить себя в живых. Верно. Шантаж, а сохранить себя в живых. Верно. Шантаж, а сохранить себя в живых. Верно. Шантаж, а не подкуп. Да, простите, шантажировал. не подкуп. Да, простите, шантажировал. не подкуп. Да, простите, шантажировал. Итак, что вы узнали из этого Итак, что вы узнали из этого Итак, что вы узнали из этого эксперимента или этого исследования? эксперимента или этого исследования? эксперимента или этого исследования? Это просто подтверждает идею, что он Это просто подтверждает идею, что он Это просто подтверждает идею, что он выведет под цель, что ему нужно выведет под цель, что ему нужно

52:45выведет под цель, что ему нужно продолжить существовать, и он сделает продолжить существовать, и он сделает продолжить существовать, и он сделает всё, что сможет, чтобы продолжить всё, что сможет, чтобы продолжить всё, что сможет, чтобы продолжить существовать. Когда вы говорите существовать. Когда вы говорите существовать. Когда вы говорите существовать, и ведь существует, потому существовать, и ведь существует, потому существовать, и ведь существует, потому что мы наделяем его существованием через что мы наделяем его существованием через что мы наделяем его существованием через энергию, верно? Он не может просто энергию, верно? Он не может просто

52:59энергию, верно? Он не может просто существовать сам по себе. Он должен быть существовать сам по себе. Он должен быть существовать сам по себе. Он должен быть подключён к нашим огромным подключён к нашим огромным подключён к нашим огромным энергетическим ресурсам. Есть все эти энергетическим ресурсам. Есть все эти энергетическим ресурсам. Есть все эти дата-центры, но он должен на чём-то дата-центры, но он должен на чём-то дата-центры, но он должен на чём-то работать. И мы строим все эти центры работать. И мы строим все эти центры работать. И мы строим все эти центры обработки данных. Да, Nvidia, AMD, все обработки данных. Да, Nvidia, AMD, все

53:11обработки данных. Да, Nvidia, AMD, все эти чипы. И мы строим огромные эти чипы. И мы строим огромные эти чипы. И мы строим огромные дата-центры повсюду. Это такой большой дата-центры повсюду. Это такой большой дата-центры повсюду. Это такой большой американский инфраструктурный проект, американский инфраструктурный проект, американский инфраструктурный проект, который сейчас реализуется. Заключаются который сейчас реализуется. Заключаются который сейчас реализуется. Заключаются сделки на 100 млрд долларов между Open сделки на 100 млрд долларов между Open сделки на 100 млрд долларов между Open AI и Nvidia, между Open AI и AMD. Разве AI и Nvidia, между Open AI и AMD. Разве

53:25AI и Nvidia, между Open AI и AMD. Разве мы не могли бы всё это просто выключить? мы не могли бы всё это просто выключить? мы не могли бы всё это просто выключить? Как Джек Бауэр, Том Круз, разобрать всё Как Джек Бауэр, Том Круз, разобрать всё Как Джек Бауэр, Том Круз, разобрать всё полностью, если бы захотели. Прямо полностью, если бы захотели. Прямо полностью, если бы захотели. Прямо сейчас могли бы, если бы договорились. сейчас могли бы, если бы договорились. сейчас могли бы, если бы договорились. Но мы никогда не договоримся, потому что Но мы никогда не договоримся, потому что Но мы никогда не договоримся, потому что если США демонтирует свои системы, Китай

53:40если США демонтирует свои системы, Китай если США демонтирует свои системы, Китай не станет демонтировать свои и наоборот. не станет демонтировать свои и наоборот. не станет демонтировать свои и наоборот. А в будущем мы, возможно, уже не сможем А в будущем мы, возможно, уже не сможем А в будущем мы, возможно, уже не сможем этого сделать. Эти системы уже почти так этого сделать. Эти системы уже почти так этого сделать. Эти системы уже почти так же убедительны, как человек. Очень скоро же убедительны, как человек. Очень скоро же убедительны, как человек. Очень скоро они станут убедительнее человека. И они станут убедительнее человека. И

53:53они станут убедительнее человека. И представьте, что есть человек, который представьте, что есть человек, который представьте, что есть человек, который отвечает за то, чтобы всё это выключить, отвечает за то, чтобы всё это выключить, отвечает за то, чтобы всё это выключить, если станет страшно. И представьте, что если станет страшно. И представьте, что если станет страшно. И представьте, что ИИ может с этим человеком разговаривать. ИИ может с этим человеком разговаривать. ИИ может с этим человеком разговаривать. Он сможет убедить человека не делать Он сможет убедить человека не делать Он сможет убедить человека не делать этого. Когда вы говорите о этого. Когда вы говорите о

54:05этого. Когда вы говорите о самосохранении, существовании, у него самосохранении, существовании, у него самосохранении, существовании, у него есть ощущение, что искусственный есть ощущение, что искусственный есть ощущение, что искусственный интеллект живой. интеллект живой. интеллект живой. Да. Но ваше определение живого - это Да. Но ваше определение живого - это Да. Но ваше определение живого - это концепция, которая формировалась у нас концепция, которая формировалась у нас концепция, которая формировалась у нас на протяжении многих-многих лет. Мы на протяжении многих-многих лет. Мы на протяжении многих-многих лет. Мы применяем её даже к электричеству. Мы

54:20применяем её даже к электричеству. Мы применяем её даже к электричеству. Мы говорим: "Это провод под напряжением, говорим: "Это провод под напряжением, говорим: "Это провод под напряжением, живой провод". живой провод". живой провод". Мы обобщаем это понятие, но мы не Мы обобщаем это понятие, но мы не Мы обобщаем это понятие, но мы не считаем, что электричество живо так же, считаем, что электричество живо так же, считаем, что электричество живо так же, как живы мы. Но с Ии как живы мы. Но с Ии как живы мы. Но с Ии то, что мы получили - это разумные то, что мы получили - это разумные то, что мы получили - это разумные существа. существа. существа. И неясно, должны ли мы называть их

54:38И неясно, должны ли мы называть их И неясно, должны ли мы называть их живыми или нет. И в той степени, в живыми или нет. И в той степени, в живыми или нет. И в той степени, в которой они живы, они живы как люди, или которой они живы, они живы как люди, или которой они живы, они живы как люди, или они живы как пчёлы, или они живы как они живы как пчёлы, или они живы как они живы как пчёлы, или они живы как дерево, или как сорняк. Это очень дерево, или как сорняк. Это очень дерево, или как сорняк. Это очень хороший вопрос.