Почему нейронки нельзя внедрять в работу бездумно: утечки, ошибки и зависимость от AI
6 мин чтения
Автор: Aleron
В видео Антон Назаров разбирает обратную сторону массового внедрения нейросетей в работу. Он объясняет, почему загрузка кода, документации и данных кандидатов во внешние LLM может привести к утечке интеллектуальной собственности, нарушению внутренних политик и законодательства. Отдельно рассматриваются конфликты с NDA и лицензиями на открытый код, включая спор вокруг GitHub Copilot. Автор также говорит о риске галлюцинаций: AI может предложить несуществующие API, уязвимый код или вымышленные юридические прецеденты, а недостаточная проверка таких результатов приводит к багам, штрафам и репутационным потерям. В числе других угроз названы supply chain-риски, зависимость критической инфраструктуры от внешних моделей, рыночный хайп и финансовые потери из-за ошибок в автоматизированных системах. При этом финальный вывод не сводится к полному запрету AI: использовать его можно, но только с тестированием, аналитикой, контролем и пониманием технического долга.
Главные выводы
- Передача кода, архитектуры и документации внешней LLM может привести к утечке интеллектуальной собственности и нарушению внутренних правил.
- AI-генерация способна создать конфликт с NDA, лицензиями на открытый код и гарантиями чистоты интеллектуальной собственности.
- Ошибки и галлюцинации моделей могут привести к уязвимому коду, продакшен-багам, штрафам и потере профессиональной репутации.
- Зависимость от внешних AI-поставщиков создаёт риски из-за изменения цен, ограничений доступа, сбоев и геополитических ограничений.
- Автоматизированные финансовые и инфраструктурные системы могут превращать небольшую ошибку в многомиллионные потери.
- AI не обязательно запрещать, но его результаты и критические действия нужно проверять тестами, аналитикой и человеческим контролем.
Утечки данных и конфликт с правилами компании
Антон Назаров: Нейросети нельзя бездумно использовать в работе прежде всего из-за риска утечки интеллектуальной собственности. Архитектура, код и документация проекта относятся к ключевым активам компании, а передача этих материалов внешней LLM может рассматриваться как передача данных третьей стороне или даже другой стране. Риски связаны с логированием и возможным использованием данных для обучения моделей.
Антон Назаров: В 2023 году инженеры Samsung Electronics случайно загрузили корпоративный код в ChatGPT. После этого сотрудникам напомнили, что подобные действия могут привести к дисциплинарным взысканиям вплоть до увольнения, а защищённую авторским правом информацию нельзя загружать в чатботы даже с других устройств. Похожая проблема возникает в AI-рекрутинге: для обработки данных кандидата внешней моделью может требоваться отдельное согласие, тогда как законодательство не всегда успевает за технологиями.
NDA, лицензии и юридические последствия
Антон Назаров: Вторая проблема — конфликт с NDA и пользовательскими соглашениями. Бигтех работает с банками, государством и корпорациями, а во многих контрактах прямо запрещена передача данных третьим лицам, включая AI-сервисы. Даже небольшой технический риск не отменяет того, что такая передача может быть юридическим нарушением.
Антон Назаров: Вокруг GitHub Copilot в 2022 году разгорелся спор: пользователи заметили, что инструмент иногда генерирует фрагменты, похожие на код из публичных репозиториев под лицензиями MIT или GPL, без указания автора и лицензии. Если такой фрагмент попадёт в коммерческий продукт, это может создать конфликт с лицензией или гарантией чистоты интеллектуальной собственности. В ноябре 2022 года против OpenAI, GitHub и Microsoft подали коллективный иск с требованием возмещения ущерба в размере 9 миллиардов долларов.
Антон Назаров: Поэтому запрет AI-ассистента на корпоративном ноутбуке не обязательно означает самодурство руководителя. За ним могут стоять реальные юридические и финансовые причины.
Ошибки, галлюцинации и уязвимый код
Антон Назаров: AI, как и человек, ошибается. В программировании это проявляется в выдуманных методах, неверных сигнатурах, устаревших библиотеках и несуществующих API. Если поверхностное ревью не обнаружит проблему, она может попасть в продакшен и привести к сбоям.
Антон Назаров: Отдельная угроза связана с безопасностью и цепочкой поставок. Модель способна сгенерировать небезопасные SQL-запросы, плохо обработать пользовательский ввод, не учесть SQL-инъекции, неправильно реализовать авторизацию или подключить библиотеку с уязвимостью. Готовый код часто выглядит рабочим, поэтому у разработчика может быть меньше мотивации изучать стоящие за ним паттерны безопасности.
Антон Назаров: В качестве примера приводится случай с американскими юристами, которые использовали ChatGPT для подготовки судебного документа. Модель выдумала несуществующие прецеденты, а суд оштрафовал юристов на 5000 долларов и публично указал на недопустимость использования непроверенных результатов. Для разработчиков это сигнал: если AI может придумать судебное дело, он так же легко может придумать техническое требование или спецификацию.
Зависимость от внешних AI-сервисов
Антон Назаров: Опасность возникает, когда AI-ассистент получает возможность самостоятельно вносить критические изменения в инфраструктуру. В видео упоминается описанный автором масштабный сбой Amazon Web Services, связанный с автоматизированным изменением конфигурации среды. Такая ситуация показывает, что отсутствие контроля над действиями ассистента способно привести к остановке сервисов, компенсациям клиентам и репутационному удару.
Антон Назаров: Есть и supply chain-риск: критическая инфраструктура может зависеть от внешней AI-модели. Если поставщик попадёт под ограничения или скомпрометирует себя, компаниям придётся перестраивать архитектуру, менять интеграции и пересматривать контракты. Для оборонной отрасли такая зависимость становится не только технической, но и вопросом национальной безопасности и непрерывности работы.
Антон Назаров: Зависимость проявляется и в повседневной разработке. Если команда привыкла делегировать часть работы AI, изменение цен, лимитов или доступности модели может резко снизить темп. После изменения политики доступа к ChatGPT-4 и технических сбоев GitHub Copilot компаниям приходилось возвращаться к ручной работе, что расходилось с планами и расчётами производительности.
Хайп и финансовые потери
Антон Назаров: AI влияет не только на код и инфраструктуру, но и на ожидания инвесторов. Одного заявления о внедрении новой технологии может быть достаточно, чтобы изменить оценку компании, усилить давление на традиционный бизнес и спровоцировать перераспределение капитала. Публичные компании сталкиваются с волатильностью акций и необходимостью менять стратегию ещё до того, как новый продукт начнёт приносить прибыль.
Антон Назаров: Ошибки автоматизированных финансовых систем могут приводить к прямым потерям. В видео разбирается случай Moonwell: из-за ошибки в формуле ценового оракула токен был оценён в 12 центов вместо 2200 долларов. Торговые боты воспользовались разницей за несколько минут и вывели суммарно около 1,8 миллиона долларов. Платформа заметила проблему через четыре минуты, но в смарт-контрактах нельзя мгновенно остановить операции из-за процедур ожидания и голосования.
Антон Назаров: К похожим рискам относятся уязвимости в AI-инструментах и приложениях, куда их встраивают. Даже текстовый редактор с AI-помощником может стать источником удалённого выполнения кода. Поэтому добавление AI меняет профиль риска продукта, который раньше считался безопасным и работал с локальными файлами.
Как использовать AI без слепой зависимости
Антон Назаров: Многие специалисты опасаются деградации инженерной культуры: разработчики меньше думают об оптимизации, архитектуре и безопасности, если полученный от AI код выглядит рабочим и проходит тесты. Одновременно полная зависимость от внешнего инструмента даёт поставщикам возможность менять цены и условия доступа. Если модели станут стоить сотни или тысячи долларов в месяц, привыкшим к ним командам будет трудно быстро отказаться от сервиса.
Антон Назаров: Всё это не доказывает, что AI нужно запретить или что любую задачу следует снова делать вручную. Есть много ситуаций, где нейросети действительно ускоряют работу и помогают решать нетривиальные задачи. Но внедрять их бездумно нельзя: иначе технический долг, потеря денег, конфиденциальных данных и репутации проявятся позже.
Антон Назаров: Интегрировать AI в бизнес, рабочие и личные процессы нужно с тестами, аналитикой и опорой на исследования. Результаты модели необходимо проверять, доступы — ограничивать, а критические изменения — выполнять под контролем человека.
Таймкоды
- 00:02Почему нейросети нельзя использовать бездумно — Вводная часть о рисках массового внедрения AI и обещание разобрать реальные последствия.
- 00:52Утечки интеллектуальной собственности и данных — Риски передачи кода, документации и данных кандидатов внешним AI-сервисам; пример Samsung.
- 02:57Соглашения о неразглашении, лицензии и GitHub Copilot — Конфликты с контрактами, лицензиями open source и коллективный иск вокруг GitHub Copilot.
- 05:04Галлюцинации и ошибки в продакшене — Вымышленные API, устаревшие библиотеки и пример сбоя из-за автоматизированных изменений инфраструктуры.
- 07:45Уязвимый код и supply chain-риски — Небезопасные SQL-запросы, ошибки авторизации, приватные токены и зависимость критических систем от AI-поставщика.
- 12:23Вымышленные судебные прецеденты и цена непроверенных ответов — История с ChatGPT, несуществующими прецедентами и штрафом для юристов.
- 14:02Рыночный хайп и финансовые потери — Как AI меняет ожидания инвесторов и как ошибка в ценовом оракуле Moonwell привела к потере около 1,8 миллиона долларов.
- 17:31Зависимость от AI и деградация инженерной культуры — Риски потери навыков, изменения цен и сбоев внешних инструментов.
- 21:03Вывод: AI нужен, но под контролем — Финальный вывод о разумном внедрении AI с тестами, аналитикой и проверкой результатов.
Полный транскриптПоказать транскриптСкрыть транскрипт
00:02Уверен, каждый из вас уже устал от Уверен, каждый из вас уже устал от бесконечного инфошума про то, что бесконечного инфошума про то, что бесконечного инфошума про то, что нейронки и нужно использовать в каждой нейронки и нужно использовать в каждой нейронки и нужно использовать в каждой сфере своей жизни, ничего больше руками сфере своей жизни, ничего больше руками сфере своей жизни, ничего больше руками не делать. Меня и самого здесь, на самом не делать. Меня и самого здесь, на самом не делать. Меня и самого здесь, на самом деле, нет. Это мультиоркестрационная деле, нет. Это мультиоркестрационная деле, нет. Это мультиоркестрационная система агентов, один из которых
00:16система агентов, один из которых система агентов, один из которых генерирует сценарий, другой генерирует сценарий, другой генерирует сценарий, другой оцифровывает, а третий озвучивает. Но по оцифровывает, а третий озвучивает. Но по оцифровывает, а третий озвучивает. Но по правилам рационализма, если девять из правилам рационализма, если девять из правилам рационализма, если девять из десяти человек говорят, что что-то десяти человек говорят, что что-то десяти человек говорят, что что-то хорошо и это нужно использовать, то хорошо и это нужно использовать, то хорошо и это нужно использовать, то святая обязанность десятого с ними не святая обязанность десятого с ними не
00:30святая обязанность десятого с ними не согласиться и поспорить. Поэтому сегодня согласиться и поспорить. Поэтому сегодня согласиться и поспорить. Поэтому сегодня мы обсудим, почему нейронки ни в коем мы обсудим, почему нейронки ни в коем мы обсудим, почему нейронки ни в коем случае нельзя использовать в работе, а случае нельзя использовать в работе, а случае нельзя использовать в работе, а также посмотрим на хайповые новости, где также посмотрим на хайповые новости, где также посмотрим на хайповые новости, где нейронки уже принесли многомиллиардные нейронки уже принесли многомиллиардные нейронки уже принесли многомиллиардные убытки для компаний.
00:52Самое важное - это риск утечки Самое важное - это риск утечки интеллектуальной собственности. Дело в интеллектуальной собственности. Дело в интеллектуальной собственности. Дело в том, что архитектура, код, документация том, что архитектура, код, документация том, что архитектура, код, документация проекта, всё это относится к ключевым проекта, всё это относится к ключевым проекта, всё это относится к ключевым активам компании. И засовывание это в активам компании. И засовывание это в активам компании. И засовывание это в какую-то внешнюю LLM может по закону какую-то внешнюю LLM может по закону какую-то внешнюю LLM может по закону считаться передачей данных третьей
01:09считаться передачей данных третьей считаться передачей данных третьей стране. Это может считаться нарушением стране. Это может считаться нарушением стране. Это может считаться нарушением внутренних политик компании, а также внутренних политик компании, а также внутренних политик компании, а также несёт риск утечки через логирование или несёт риск утечки через логирование или несёт риск утечки через логирование или обучение моделей. Для компании размером обучение моделей. Для компании размером обучение моделей. Для компании размером это могут быть риски на миллиарды это могут быть риски на миллиарды это могут быть риски на миллиарды долларов. В 2023 году инженеры Samsung
01:26долларов. В 2023 году инженеры Samsung долларов. В 2023 году инженеры Samsung Electronics случайно допустили утечку Electronics случайно допустили утечку Electronics случайно допустили утечку корпоративного кода, засунув его в Chatт корпоративного кода, засунув его в Chatт корпоративного кода, засунув его в Chatт GPT. В компании закономерно отмечают, GPT. В компании закономерно отмечают, GPT. В компании закономерно отмечают, что все данные, которые загружаются что все данные, которые загружаются что все данные, которые загружаются конкретно в этот и аналогичные чатботы, конкретно в этот и аналогичные чатботы, конкретно в этот и аналогичные чатботы, хранятся на внешних серверах где-то и
01:44хранятся на внешних серверах где-то и хранятся на внешних серверах где-то и могут быть доступны третьей стороне. А в могут быть доступны третьей стороне. А в могут быть доступны третьей стороне. А в купе с GTPR и охраной данных купе с GTPR и охраной данных купе с GTPR и охраной данных пользователей это всё ещё больше риска пользователей это всё ещё больше риска пользователей это всё ещё больше риска вызывает. Вслед за этим сотрудникам вызывает. Вслед за этим сотрудникам вызывает. Вслед за этим сотрудникам закономерно сделали втык через служебную закономерно сделали втык через служебную закономерно сделали втык через служебную записку и подчеркнули, что такие вот
02:02записку и подчеркнули, что такие вот записку и подчеркнули, что такие вот действия могут привести к дисциплинарным действия могут привести к дисциплинарным действия могут привести к дисциплинарным взысканиям вплоть до увольнения. Запрет взысканиям вплоть до увольнения. Запрет взысканиям вплоть до увольнения. Запрет распространяется на корпоративные распространяется на корпоративные распространяется на корпоративные устройства и сети. При использовании устройства и сети. При использовании устройства и сети. При использовании чатботов с других устройств сотрудникам чатботов с других устройств сотрудникам чатботов с других устройств сотрудникам запрещается загружать туда информацию,
02:19запрещается загружать туда информацию, запрещается загружать туда информацию, защищённую авторским правом. Кстати, по защищённую авторским правом. Кстати, по защищённую авторским правом. Кстати, по этой же причине половина HR тех этой же причине половина HR тех этой же причине половина HR тех продуктов, ныне существующих, всякие продуктов, ныне существующих, всякие продуктов, ныне существующих, всякие Атиэски или AI рекрутеры, короче, Атиэски или AI рекрутеры, короче, Атиэски или AI рекрутеры, короче, нейронайм находится в серой зоне и почти нейронайм находится в серой зоне и почти нейронайм находится в серой зоне и почти наверняка нарушают законы, потому что на
02:35наверняка нарушают законы, потому что на наверняка нарушают законы, потому что на самом деле, чтобы загружать данные самом деле, чтобы загружать данные самом деле, чтобы загружать данные кандидата в какие-то там свои кандидата в какие-то там свои кандидата в какие-то там свои ай-помощники, у него нужно запрашивать ай-помощники, у него нужно запрашивать ай-помощники, у него нужно запрашивать отдельное разрешение конкретно на отдельное разрешение конкретно на отдельное разрешение конкретно на обработку его данных LLM. Но, как вы обработку его данных LLM. Но, как вы обработку его данных LLM. Но, как вы понимаете, закон от развития технологий понимаете, закон от развития технологий
02:50понимаете, закон от развития технологий здесь отстаёт.
02:57Вторая причина не использовать нейронки Вторая причина не использовать нейронки - это конфликт с НДА и пользовательскими - это конфликт с НДА и пользовательскими - это конфликт с НДА и пользовательскими соглашениями. Бигтех часто работает с соглашениями. Бигтех часто работает с соглашениями. Бигтех часто работает с банками, государством или другими банками, государством или другими банками, государством или другими корпорациями. Во многих контрактах корпорациями. Во многих контрактах корпорациями. Во многих контрактах существует прямой запрет на передачу существует прямой запрет на передачу существует прямой запрет на передачу данных третьим лицам, в том числе
03:14данных третьим лицам, в том числе данных третьим лицам, в том числе AI-сервисом. Даже если риск минимален, AI-сервисом. Даже если риск минимален, AI-сервисом. Даже если риск минимален, юридически это всё равно нарушение. В юридически это всё равно нарушение. В юридически это всё равно нарушение. В 2022 году вокруг нами любимого GitHub 2022 году вокруг нами любимого GitHub 2022 году вокруг нами любимого GitHub Cilot разгорелся юридический скандал. Cilot разгорелся юридический скандал. Cilot разгорелся юридический скандал. Инструмент обучался на публичных Инструмент обучался на публичных Инструмент обучался на публичных репозиториях на платформе GitHub, в том
03:32репозиториях на платформе GitHub, в том репозиториях на платформе GitHub, в том числе на проектах, которые находятся под числе на проектах, которые находятся под числе на проектах, которые находятся под лицензией MIT или GPL. Пользователи лицензией MIT или GPL. Пользователи лицензией MIT или GPL. Пользователи заметили, что инструмент порой заметили, что инструмент порой заметили, что инструмент порой генерирует подозрительно похожие участки генерирует подозрительно похожие участки генерирует подозрительно похожие участки кода. ну, один в один совпадающий с кода. ну, один в один совпадающий с кода. ну, один в один совпадающий с такими вот лицензионными open source
03:48такими вот лицензионными open source такими вот лицензионными open source проектами без указания автора и проектами без указания автора и проектами без указания автора и лицензии. Для бизнеса это стало риском. лицензии. Для бизнеса это стало риском. лицензии. Для бизнеса это стало риском. Ведь если разработчик вставляет кусок Ведь если разработчик вставляет кусок Ведь если разработчик вставляет кусок такого кода лицензионного в коммерческий такого кода лицензионного в коммерческий такого кода лицензионного в коммерческий продукт, то это может являться продукт, то это может являться продукт, то это может являться нарушением лицензии уже коммерческого нарушением лицензии уже коммерческого
04:04нарушением лицензии уже коммерческого продукта или контракта с клиентом, продукта или контракта с клиентом, продукта или контракта с клиентом, который гарантирует частоту который гарантирует частоту который гарантирует частоту интеллектуальной собственности. В ноябре интеллектуальной собственности. В ноябре интеллектуальной собственности. В ноябре 2022 года это и случилось. Против 2022 года это и случилось. Против 2022 года это и случилось. Против компании Open AI, GitHub и Microsoft был компании Open AI, GitHub и Microsoft был компании Open AI, GitHub и Microsoft был подан коллективный иск, где подан коллективный иск, где подан коллективный иск, где утверждалось, что их инструмент нарушает
04:21утверждалось, что их инструмент нарушает утверждалось, что их инструмент нарушает авторское право. Изцы иска потребовали авторское право. Изцы иска потребовали авторское право. Изцы иска потребовали возмещения ущерба в размерах 9 млрд возмещения ущерба в размерах 9 млрд возмещения ущерба в размерах 9 млрд долларов. Этот кейс показал, что даже долларов. Этот кейс показал, что даже долларов. Этот кейс показал, что даже такая тривиальная вещь, как такая тривиальная вещь, как такая тривиальная вещь, как автодополнение кода с помощью EИ, может автодополнение кода с помощью EИ, может автодополнение кода с помощью EИ, может вести к конфликтам с клиентским вести к конфликтам с клиентским
04:38вести к конфликтам с клиентским договором и НДА. Именно поэтому многие договором и НДА. Именно поэтому многие договором и НДА. Именно поэтому многие компании ввели запрет на использование компании ввели запрет на использование компании ввели запрет на использование EА ассистента после такого прецедента. EА ассистента после такого прецедента. EА ассистента после такого прецедента. Поэтому, если ваш начальник запрещает Поэтому, если ваш начальник запрещает Поэтому, если ваш начальник запрещает вам ставить вашу любимую нейроночку на вам ставить вашу любимую нейроночку на вам ставить вашу любимую нейроночку на корпоративный ноутбук, возможно, он не корпоративный ноутбук, возможно, он не
04:54корпоративный ноутбук, возможно, он не самодур, а тому есть реальные самодур, а тому есть реальные самодур, а тому есть реальные юридические и финансовые причины.
05:04AI, как и человек, допускает ошибки, и AI, как и человек, допускает ошибки, и его галлюцинации могут привести к его галлюцинации могут привести к его галлюцинации могут привести к продакшн бага. компании уровня БеКТЕech, продакшн бага. компании уровня БеКТЕech, продакшн бага. компании уровня БеКТЕech, особенно с миллионами пользователей, особенно с миллионами пользователей, особенно с миллионами пользователей, особенно работающие с деньгами, не могут особенно работающие с деньгами, не могут особенно работающие с деньгами, не могут себе позволить продакшн баги или себе позволить продакшн баги или себе позволить продакшн баги или неверные цитаты в документации или
05:22неверные цитаты в документации или неверные цитаты в документации или выдуманные API. Напоминаю, что выдуманные API. Напоминаю, что выдуманные API. Напоминаю, что нейросеть, очевидно, может выдавать нейросеть, очевидно, может выдавать нейросеть, очевидно, может выдавать ответы, даже если они ошибочные. В коде ответы, даже если они ошибочные. В коде ответы, даже если они ошибочные. В коде проявляется в выдуманных методах, проявляется в выдуманных методах, проявляется в выдуманных методах, неверных сигнатурах или устаревших неверных сигнатурах или устаревших неверных сигнатурах или устаревших библиотеках. Если такой код не проходит библиотеках. Если такой код не проходит
05:39библиотеках. Если такой код не проходит ревью или это ревью поверхностно, это ревью или это ревью поверхностно, это ревью или это ревью поверхностно, это может привести к наличию продакшн багов. может привести к наличию продакшн багов. может привести к наличию продакшн багов. В февраль 2026 года Amazon веб-сервисы В февраль 2026 года Amazon веб-сервисы В февраль 2026 года Amazon веб-сервисы столкнулись с масштабным сбоем, который столкнулись с масштабным сбоем, который столкнулись с масштабным сбоем, который длился 13 часов. Вы понимаете, что это в длился 13 часов. Вы понимаете, что это в длился 13 часов. Вы понимаете, что это в контексте всего интернета. По данным
05:57контексте всего интернета. По данным контексте всего интернета. По данным проверенных изданий, инцидент был связан проверенных изданий, инцидент был связан проверенных изданий, инцидент был связан с использованием внутреннего ИИ с использованием внутреннего ИИ с использованием внутреннего ИИ инструмента для автоматизированного инструмента для автоматизированного инструмента для автоматизированного внесения изменений в инфраструктуру. Aй внесения изменений в инфраструктуру. Aй внесения изменений в инфраструктуру. Aй помощник внёс изменения в конфигурацию помощник внёс изменения в конфигурацию помощник внёс изменения в конфигурацию среды, по сути, пересоздал часть
06:11среды, по сути, пересоздал часть среды, по сути, пересоздал часть окружения, что и привело к остановке окружения, что и привело к остановке окружения, что и привело к остановке сервисов и масштабным сбоям у клиентов. сервисов и масштабным сбоям у клиентов. сервисов и масштабным сбоям у клиентов. Amazon заявили, что причиной стала Amazon заявили, что причиной стала Amazon заявили, что причиной стала ошибка в конфигурации доступов, но сама ошибка в конфигурации доступов, но сама ошибка в конфигурации доступов, но сама ситуация, в которой автоматизированный и ситуация, в которой автоматизированный и ситуация, в которой автоматизированный и и ассистент вносит критические изменения
06:29и ассистент вносит критические изменения и ассистент вносит критические изменения без какого-либо контроля, вызвала без какого-либо контроля, вызвала без какого-либо контроля, вызвала вопросики к процессам. Для облачного вопросики к процессам. Для облачного вопросики к процессам. Для облачного бизнеса даже часы Простоя означают бизнеса даже часы Простоя означают бизнеса даже часы Простоя означают большие финансовые потери, компенсации большие финансовые потери, компенсации большие финансовые потери, компенсации клиентам и репутационный удар. клиентам и репутационный удар. клиентам и репутационный удар. Исследования показывают, что даже Исследования показывают, что даже
06:45Исследования показывают, что даже краткосрочные сбои АВС могут стоить краткосрочные сбои АВС могут стоить краткосрочные сбои АВС могут стоить компаниям сотни миллионов долларов, если компаниям сотни миллионов долларов, если компаниям сотни миллионов долларов, если они затрагивают важные компоненты они затрагивают важные компоненты они затрагивают важные компоненты инфраструктуры.
07:01По закону жанра, как и в любом видео про По закону жанра, как и в любом видео про ИI, здесь должен быть какой-то прогрев. ИI, здесь должен быть какой-то прогрев. ИI, здесь должен быть какой-то прогрев. Но я не приготовил для вас ни какого-то Но я не приготовил для вас ни какого-то Но я не приготовил для вас ни какого-то промпта, который решит ваши проблемы, и промпта, который решит ваши проблемы, и промпта, который решит ваши проблемы, и даже курс не сделал, который только даже курс не сделал, который только даже курс не сделал, который только сейчас доступен в рассрочку. Посмотрите сейчас доступен в рассрочку. Посмотрите
07:14сейчас доступен в рассрочку. Посмотрите просто интервью с AI-инженером, который просто интервью с AI-инженером, который просто интервью с AI-инженером, который рассказывает, насколько больше он рассказывает, насколько больше он рассказывает, насколько больше он зарабатывает, чем просто ээкэнд- зарабатывает, чем просто ээкэнд- зарабатывает, чем просто ээкэнд- инженер. Рассказывает про особенности инженер. Рассказывает про особенности инженер. Рассказывает про особенности своей работы. Мы с ним записали пару своей работы. Мы с ним записали пару своей работы. Мы с ним записали пару неплохих гайдов с рациональным взглядом неплохих гайдов с рациональным взглядом
07:27неплохих гайдов с рациональным взглядом на AI, с исследованиями, аналитикой и на AI, с исследованиями, аналитикой и на AI, с исследованиями, аналитикой и даже небольшой туториал, как даже небольшой туториал, как даже небольшой туториал, как навайп-кодить приложение. Всё это навайп-кодить приложение. Всё это навайп-кодить приложение. Всё это бесплатно, не переживайте. Вот на Ютюбе. бесплатно, не переживайте. Вот на Ютюбе. бесплатно, не переживайте. Вот на Ютюбе. Ну а мы идём дальше.
07:45Поэтому следующая крупная проблема- Поэтому следующая крупная проблема- безопасность и supply chain риски. AI безопасность и supply chain риски. AI безопасность и supply chain риски. AI вполне может сгенерировать уязвимый код, вполне может сгенерировать уязвимый код, вполне может сгенерировать уязвимый код, нарушить стандарты безопасного нарушить стандарты безопасного нарушить стандарты безопасного кодирования или даже подтянуть кодирования или даже подтянуть кодирования или даже подтянуть небезопасные паттерны или установить небезопасные паттерны или установить небезопасные паттерны или установить библиотеку, у которой есть уязвимость библиотеку, у которой есть уязвимость
08:01библиотеку, у которой есть уязвимость автоматически. Например, модель может автоматически. Например, модель может автоматически. Например, модель может использовать небезопасные сQL-запросы, использовать небезопасные сQL-запросы, использовать небезопасные сQL-запросы, плохо обрабатывать пользовательский ввод плохо обрабатывать пользовательский ввод плохо обрабатывать пользовательский ввод без учёта и ской-нъекций и других видов без учёта и ской-нъекций и других видов без учёта и ской-нъекций и других видов атак, а также реализовать некорректную атак, а также реализовать некорректную атак, а также реализовать некорректную авторизацию без глубокого понимания авторизацию без глубокого понимания
08:16авторизацию без глубокого понимания стандартов безопасности. разработчик стандартов безопасности. разработчик стандартов безопасности. разработчик может просто не заметить эту проблему. В может просто не заметить эту проблему. В может просто не заметить эту проблему. В итоге повышается риск утечек данных или итоге повышается риск утечек данных или итоге повышается риск утечек данных или атак. Вы, конечно, можете сказать: атак. Вы, конечно, можете сказать: атак. Вы, конечно, можете сказать: "Антон, ну ты не объективен, а что, без "Антон, ну ты не объективен, а что, без "Антон, ну ты не объективен, а что, без нейронки разработчики все разбирались в нейронки разработчики все разбирались в
08:30нейронки разработчики все разбирались в безопасности?" Нет. Но когда разработчик безопасности?" Нет. Но когда разработчик безопасности?" Нет. Но когда разработчик начинал реализовывать что-то связанное с начинал реализовывать что-то связанное с начинал реализовывать что-то связанное с безопасностью, он минимально задумывался безопасностью, он минимально задумывался безопасностью, он минимально задумывался и шёл что-то читать, изучать, смотреть и шёл что-то читать, изучать, смотреть и шёл что-то читать, изучать, смотреть документацию. А сейчас же, когда тебе документацию. А сейчас же, когда тебе документацию. А сейчас же, когда тебе предлагают готовый код, который для тебя
08:46предлагают готовый код, который для тебя предлагают готовый код, который для тебя выглядит вроде рабочим, какая мотивация выглядит вроде рабочим, какая мотивация выглядит вроде рабочим, какая мотивация у разработчика идти и разбираться, а у разработчика идти и разбираться, а у разработчика идти и разбираться, а какие там паттерны безопасности? Думаю, какие там паттерны безопасности? Думаю, какие там паттерны безопасности? Думаю, вы и сами видели в Твиттере или Редити вы и сами видели в Твиттере или Редити вы и сами видели в Твиттере или Редити вот эти вот истории, как новоявленный вот эти вот истории, как новоявленный
08:58вот эти вот истории, как новоявленный вайп-кодер берёт и коммитит какой-нибудь вайп-кодер берёт и коммитит какой-нибудь вайп-кодер берёт и коммитит какой-нибудь приватный токен прямо в продакш код, где приватный токен прямо в продакш код, где приватный токен прямо в продакш код, где его может любой человек взять, его может любой человек взять, его может любой человек взять, подсмотреть, украсть и использовать для подсмотреть, украсть и использовать для подсмотреть, украсть и использовать для атак. Ну давайте посмотрим с вами кейс атак. Ну давайте посмотрим с вами кейс атак. Ну давайте посмотрим с вами кейс посерьёзнее. В феврале 2026 года посерьёзнее. В феврале 2026 года
09:15посерьёзнее. В феврале 2026 года Министерство обороны США признала Министерство обороны США признала Министерство обороны США признала компанию Anтроopic, это те, которые клод компанию Anтроopic, это те, которые клод компанию Anтроopic, это те, которые клод делают, ещё кучу всего, риском в цепочке делают, ещё кучу всего, риском в цепочке делают, ещё кучу всего, риском в цепочке поставок и исключила их из допустимых поставок и исключила их из допустимых поставок и исключила их из допустимых поставщиков в планируемых оборонных поставщиков в планируемых оборонных поставщиков в планируемых оборонных контрактах. Без юридических терминов, контрактах. Без юридических терминов,
09:32контрактах. Без юридических терминов, это означает полный запрет на это означает полный запрет на это означает полный запрет на использование их AI-ассистента всеми использование их AI-ассистента всеми использование их AI-ассистента всеми военными подрядчиками и государственными военными подрядчиками и государственными военными подрядчиками и государственными структурами. Главный риск здесь - структурами. Главный риск здесь - структурами. Главный риск здесь - зависимость критической инфраструктуры зависимость критической инфраструктуры зависимость критической инфраструктуры от внешней AI-модели. Если поставщик и от внешней AI-модели. Если поставщик и
09:48от внешней AI-модели. Если поставщик и внезапно попадает под ограничение или внезапно попадает под ограничение или внезапно попадает под ограничение или компроментирует себя каким-то образом, компроментирует себя каким-то образом, компроментирует себя каким-то образом, то вся иерархия поставщиков должна то вся иерархия поставщиков должна то вся иерархия поставщиков должна перестраивать архитектуру, менять перестраивать архитектуру, менять перестраивать архитектуру, менять интеграции и править контракты. В интеграции и править контракты. В интеграции и править контракты. В оборонке это не просто техническая оборонке это не просто техническая
10:03оборонке это не просто техническая проблема, а риск для национальной проблема, а риск для национальной проблема, а риск для национальной безопасности и непрерывности работы безопасности и непрерывности работы безопасности и непрерывности работы оборонных систем. Потери антропик, по оборонных систем. Потери антропик, по оборонных систем. Потери антропик, по оценкам экспертов, здесь составили 200 оценкам экспертов, здесь составили 200 оценкам экспертов, здесь составили 200 млн долларов потенциальных контрактов. а млн долларов потенциальных контрактов. а млн долларов потенциальных контрактов. а также репутационный удар и заморозка также репутационный удар и заморозка
10:19также репутационный удар и заморозка сотрудничества с несколькими партнёрами. Очень хочу с вами сотрудничать. С Очень хочу с вами сотрудничать. С уважением, Ви. >> Ты серьёзно думаешь, что кто-то читает >> Ты серьёзно думаешь, что кто-то читает твоё резюме? Очнись, Ви.
10:50Ты в ловушке, Ви. Думаешь, корпы оценят Ты в ловушке, Ви. Думаешь, корпы оценят твои усилия? Они высосут тебя досуха. твои усилия? Они высосут тебя досуха. твои усилия? Они высосут тебя досуха. Хочешь найти работу, тебе не нужна вся Хочешь найти работу, тебе не нужна вся Хочешь найти работу, тебе не нужна вся эта
11:10Это ключ в другой мир. Мир IT. Понятный Это ключ в другой мир. Мир IT. Понятный план обучения. Специалисты из топовых план обучения. Специалисты из топовых план обучения. Специалисты из топовых компаний всегда готовы ответить на твой компаний всегда готовы ответить на твой компаний всегда готовы ответить на твой вопрос. вопрос. вопрос. Реальная информация о собеседованиях и Реальная информация о собеседованиях и Реальная информация о собеседованиях и зарплатах, топовые менторы, реферальные зарплатах, топовые менторы, реферальные зарплатах, топовые менторы, реферальные вакансии. В этом ключе ответ на все твои вакансии. В этом ключе ответ на все твои
11:27вакансии. В этом ключе ответ на все твои вопросы. вопросы. вопросы. Ты научишься торговаться за офер, чтобы Ты научишься торговаться за офер, чтобы Ты научишься торговаться за офер, чтобы получать зарплату выше рынка. Ты узнаешь получать зарплату выше рынка. Ты узнаешь получать зарплату выше рынка. Ты узнаешь себе цену и перестанешь прогибаться под себе цену и перестанешь прогибаться под себе цену и перестанешь прогибаться под корпы. корпы. корпы. Или останься бомжом под мостом.
11:51Просыпайся, самурай. У тебя есть ом, Просыпайся, самурай. У тебя есть ом, чтобы зарабатывать войти.
12:23>> В 2023 году в США, потому что у нас-то >> В 2023 году в США, потому что у нас-то всё хорошо, произошёл кейс, когда юристы всё хорошо, произошёл кейс, когда юристы всё хорошо, произошёл кейс, когда юристы использовали чат GPT для подготовки использовали чат GPT для подготовки использовали чат GPT для подготовки судебного документа. Он сгенерировал им судебного документа. Он сгенерировал им судебного документа. Он сгенерировал им список судебных прецедентов, которые они список судебных прецедентов, которые они список судебных прецедентов, которые они должны были использовать как должны были использовать как должны были использовать как доказательство своей правоты. Проблема в
12:38доказательство своей правоты. Проблема в доказательство своей правоты. Проблема в том, что на самом деле этих прецедентов том, что на самом деле этих прецедентов том, что на самом деле этих прецедентов не существовало. ГПТ просто по старой не существовало. ГПТ просто по старой не существовало. ГПТ просто по старой доброй привычке выдумал их и выдал доброй привычке выдумал их и выдал доброй привычке выдумал их и выдал результат. Судья эти прецеденты результат. Судья эти прецеденты результат. Судья эти прецеденты проверил, не нашёл их в юридической проверил, не нашёл их в юридической проверил, не нашёл их в юридической базе. И в результате суд оштрафовал их
12:55базе. И в результате суд оштрафовал их базе. И в результате суд оштрафовал их на 5.000 долларов и публично указал на на 5.000 долларов и публично указал на на 5.000 долларов и публично указал на недопустимость использования недопустимость использования недопустимость использования непроверенных результатов от и 5.000 непроверенных результатов от и 5.000 непроверенных результатов от и 5.000 долларов пофиг в целом, но кейс сильно долларов пофиг в целом, но кейс сильно долларов пофиг в целом, но кейс сильно разлетелся по миру и стал, как по мне, разлетелся по миру и стал, как по мне, разлетелся по миру и стал, как по мне, идеальной иллюстрацией того, как легко
13:13идеальной иллюстрацией того, как легко идеальной иллюстрацией того, как легко просрать свою профессиональную просрать свою профессиональную просрать свою профессиональную репутацию, просто не проверив то, что репутацию, просто не проверив то, что репутацию, просто не проверив то, что тебя сгенерила нейронка, и вот эти вот тебя сгенерила нейронка, и вот эти вот тебя сгенерила нейронка, и вот эти вот вымышленные результаты дальше вымышленные результаты дальше вымышленные результаты дальше использовать. Ну а для нас, для использовать. Ну а для нас, для использовать. Ну а для нас, для айтишников это сигнал. Думаю, понятно, айтишников это сигнал. Думаю, понятно,
13:25айтишников это сигнал. Думаю, понятно, что если И может выдумать судебное дело, что если И может выдумать судебное дело, что если И может выдумать судебное дело, то выдумать несуществующее АИ, то выдумать несуществующее АИ, то выдумать несуществующее АИ, спецификацию, техническое требование для спецификацию, техническое требование для спецификацию, техническое требование для него плёвое дело. Цена такой ошибки в него плёвое дело. Цена такой ошибки в него плёвое дело. Цена такой ошибки в продакшене может быть очень высока. продакшене может быть очень высока. продакшене может быть очень высока. Тестируйте результаты от EИ. Ну и Тестируйте результаты от EИ. Ну и
13:43Тестируйте результаты от EИ. Ну и повторно хочу упомянуть HR, в котором повторно хочу упомянуть HR, в котором повторно хочу упомянуть HR, в котором вакансия просто генерируется, туда вакансия просто генерируется, туда вакансия просто генерируется, туда дописывают какие-то разные непонятные дописывают какие-то разные непонятные дописывают какие-то разные непонятные требования и выкладывают это. Ух, требования и выкладывают это. Ух, требования и выкладывают это. Ух, нейронайм
14:02просто и сердито и может привести к просто и сердито и может привести к финансовым потерям. После запуска новых финансовым потерям. После запуска новых финансовым потерям. После запуска новых и инструментов в сфере финансов и и инструментов в сфере финансов и и инструментов в сфере финансов и инвестиций рынок жёстко отреагировал на инвестиций рынок жёстко отреагировал на инвестиций рынок жёстко отреагировал на угрозу автоматизации. Инвесторы угрозу автоматизации. Инвесторы угрозу автоматизации. Инвесторы восприняли и как фактор давления на восприняли и как фактор давления на восприняли и как фактор давления на традиционных работников финансовой традиционных работников финансовой
14:18традиционных работников финансовой сферы, брокеров, управляющих активами и сферы, брокеров, управляющих активами и сферы, брокеров, управляющих активами и консультантов. Это привело к снижению консультантов. Это привело к снижению консультантов. Это привело к снижению котировок ряда компаний в этом секторе, котировок ряда компаний в этом секторе, котировок ряда компаний в этом секторе, потому что инвесторы стали закладывать потому что инвесторы стали закладывать потому что инвесторы стали закладывать будущее падение маржинальности и будущее падение маржинальности и будущее падение маржинальности и количества клиентов. Короче, не нужён количества клиентов. Короче, не нужён
14:35количества клиентов. Короче, не нужён нам этот консалтер, если мы сейчас вы нам этот консалтер, если мы сейчас вы нам этот консалтер, если мы сейчас вы всё закинем и он нам подскажет, куда всё закинем и он нам подскажет, куда всё закинем и он нам подскажет, куда бабки закидывать. Риск здесь даже не в бабки закидывать. Риск здесь даже не в бабки закидывать. Риск здесь даже не в поломке системы Финсектора, а в поломке системы Финсектора, а в поломке системы Финсектора, а в стратегическом эффекте. Одно внедрение стратегическом эффекте. Одно внедрение стратегическом эффекте. Одно внедрение ИИ может изменить ожидание инвесторов, ИИ может изменить ожидание инвесторов,
14:51ИИ может изменить ожидание инвесторов, спровоцировать понижение капитализации и спровоцировать понижение капитализации и спровоцировать понижение капитализации и усилить конкурентное давление. Для усилить конкурентное давление. Для усилить конкурентное давление. Для публичных компаний это означает публичных компаний это означает публичных компаний это означает волатильность акций, давление от волатильность акций, давление от волатильность акций, давление от инвесторов, а также необходимость срочно инвесторов, а также необходимость срочно инвесторов, а также необходимость срочно менять стратегию, даже если продукт ещё менять стратегию, даже если продукт ещё
15:07менять стратегию, даже если продукт ещё не начал приносить прибыль. Проще не начал приносить прибыль. Проще не начал приносить прибыль. Проще говоря, оо, а ты видел у них и ай, ну-ка говоря, оо, а ты видел у них и ай, ну-ка говоря, оо, а ты видел у них и ай, ну-ка нам тоже добавь И. И у нас поэтому нам тоже добавь И. И у нас поэтому нам тоже добавь И. И у нас поэтому теперь даже в приложениях типа теперь даже в приложениях типа теперь даже в приложениях типа будильника есть свой ассистент. Ну и, будильника есть свой ассистент. Ну и, будильника есть свой ассистент. Ну и, конечно, финансовые потери из-за багов. конечно, финансовые потери из-за багов.
15:23конечно, финансовые потери из-за багов. Это непростая фантазия. В феврале Это непростая фантазия. В феврале Это непростая фантазия. В феврале двадцать шестого года акции крупных двадцать шестого года акции крупных двадцать шестого года акции крупных компаний финансового сектора США резко компаний финансового сектора США резко компаний финансового сектора США резко упали после появления нового и упали после появления нового и упали после появления нового и инструмента для финансового инструмента для финансового инструмента для финансового планирования. Всё просто и очевидно. планирования. Всё просто и очевидно. планирования. Всё просто и очевидно. компании Altruist была запущена
15:38компании Altruist была запущена компании Altruist была запущена платформа с и функциями для планирования платформа с и функциями для планирования платформа с и функциями для планирования капитала. Это хайпанулось, разлетелось капитала. Это хайпанулось, разлетелось капитала. Это хайпанулось, разлетелось по инвесторам. Те обратили на это по инвесторам. Те обратили на это по инвесторам. Те обратили на это внимание и начали перекладывать капитал внимание и начали перекладывать капитал внимание и начали перекладывать капитал из старообрядных компаний в новые, более из старообрядных компаний в новые, более из старообрядных компаний в новые, более технологичные, потому что там
15:55технологичные, потому что там технологичные, потому что там автоматизированный подход и автоматизированный подход и автоматизированный подход и персонализированные стратегии. Ну и персонализированные стратегии. Ну и персонализированные стратегии. Ну и потому что ИА - это круто, ведь ИА - это потому что ИА - это круто, ведь ИА - это потому что ИА - это круто, ведь ИА - это круто, верно? круто, верно? круто, верно? >> Ещё что в париш? Надо уточнить, что мы >> Ещё что в париш? Надо уточнить, что мы >> Ещё что в париш? Надо уточнить, что мы говорим какими-то расплывчатыми термины. говорим какими-то расплывчатыми термины.
16:08говорим какими-то расплывчатыми термины. Акции упали, поднялись, что-то 7%, 5%, Акции упали, поднялись, что-то 7%, 5%, Акции упали, поднялись, что-то 7%, 5%, но для крупных компаний это миллиарды но для крупных компаний это миллиарды но для крупных компаний это миллиарды долларов, что ещё сильнее усиливает вот долларов, что ещё сильнее усиливает вот долларов, что ещё сильнее усиливает вот этот вот Hpei. [фыркает] Прикиньте, вы этот вот Hpei. [фыркает] Прикиньте, вы этот вот Hpei. [фыркает] Прикиньте, вы релизите какой-то продукт, говорите: релизите какой-то продукт, говорите: релизите какой-то продукт, говорите: "Вот за этим будущее". И акции "Вот за этим будущее". И акции
16:25"Вот за этим будущее". И акции конкурентов отлетают, и они теряют конкурентов отлетают, и они теряют конкурентов отлетают, и они теряют миллиарды долларов. Ну, естественно, эта миллиарды долларов. Ну, естественно, эта миллиарды долларов. Ну, естественно, эта истерия будет продолжаться. В феврале истерия будет продолжаться. В феврале истерия будет продолжаться. В феврале криптовалютная платформа Moonwell криптовалютная платформа Moonwell криптовалютная платформа Moonwell потеряла почти 2 млн долларов за потеряла почти 2 млн долларов за потеряла почти 2 млн долларов за несколько минут из-за критической ошибки несколько минут из-за критической ошибки
16:39несколько минут из-за критической ошибки в коде ценового оракула. Оракул - это в коде ценового оракула. Оракул - это в коде ценового оракула. Оракул - это штука, которая сообщает смарконтрактам штука, которая сообщает смарконтрактам штука, которая сообщает смарконтрактам актуальные рыночные цены. Из-за неверной актуальные рыночные цены. Из-за неверной актуальные рыночные цены. Из-за неверной формулы токен был оценён в доллар 12 формулы токен был оценён в доллар 12 формулы токен был оценён в доллар 12 центов вместо актуальных 2.200 долларов. центов вместо актуальных 2.200 долларов. центов вместо актуальных 2.200 долларов. Как вы понимаете, крипта - это сфера,
17:00Как вы понимаете, крипта - это сфера, Как вы понимаете, крипта - это сфера, где очень много автоматизаций, ботов, и где очень много автоматизаций, ботов, и где очень много автоматизаций, ботов, и торговые боты за эти пару минут, торговые боты за эти пару минут, торговые боты за эти пару минут, воспользовавшись разницей в цене, воспользовавшись разницей в цене, воспользовавшись разницей в цене, выкачали денег суммарно на 1.800.000 выкачали денег суммарно на 1.800.000 выкачали денег суммарно на 1.800.000 долларов. Для тех, кому интересно долларов. Для тех, кому интересно долларов. Для тех, кому интересно закопаться в технические подробности, закопаться в технические подробности,
17:15закопаться в технические подробности, вот вот где-то здесь. А остальным просто вот вот где-то здесь. А остальным просто вот вот где-то здесь. А остальным просто скажу, что там относительную цену забыли скажу, что там относительную цену забыли скажу, что там относительную цену забыли домножить на реальную цену в долларах. домножить на реальную цену в долларах. домножить на реальную цену в долларах. Платформа заметила это только через 4 Платформа заметила это только через 4 Платформа заметила это только через 4 минуты. К сожалению, в смарт-контрактах минуты. К сожалению, в смарт-контрактах минуты. К сожалению, в смарт-контрактах нельзя остановить всё вот так вот по
17:30нельзя остановить всё вот так вот по нельзя остановить всё вот так вот по щелчку из-за ожидания и голосования. щелчку из-за ожидания и голосования. щелчку из-за ожидания и голосования. Примечательно, что это уже второй Примечательно, что это уже второй Примечательно, что это уже второй крупный баг в оракуле Monвеell, который крупный баг в оракуле Monвеell, который крупный баг в оракуле Monвеell, который привёл к крупной потери. Предыдущий был привёл к крупной потери. Предыдущий был привёл к крупной потери. Предыдущий был на лям долларов, что ставит под вопрос на лям долларов, что ставит под вопрос на лям долларов, что ставит под вопрос качество их аудита.
17:51В феврале 2026 года появилась новость, В феврале 2026 года появилась новость, что Клод Кот содержал критическую что Клод Кот содержал критическую что Клод Кот содержал критическую уязвимость, позволяющую злоумышленникам уязвимость, позволяющую злоумышленникам уязвимость, позволяющую злоумышленникам исполнить удалённо код и выкрасть исполнить удалённо код и выкрасть исполнить удалённо код и выкрасть персональные данные даже без согласия персональные данные даже без согласия персональные данные даже без согласия пользователя. Было и было, скажете вы. пользователя. Было и было, скажете вы. пользователя. Было и было, скажете вы. Но по сути все бенчмарки, CICD скрипты и
18:08Но по сути все бенчмарки, CICD скрипты и Но по сути все бенчмарки, CICD скрипты и автоматизации, использовавшие этот автоматизации, использовавшие этот автоматизации, использовавшие этот инструмент, могли быть потенциально инструмент, могли быть потенциально инструмент, могли быть потенциально использованы для утечки или кражи использованы для утечки или кражи использованы для утечки или кражи конфиденциальных данных. Или возьмём конфиденциальных данных. Или возьмём конфиденциальных данных. Или возьмём блокнот на Windows. Казалось бы, блокнот на Windows. Казалось бы, блокнот на Windows. Казалось бы, безопасная штука. Делай там, что хочешь. безопасная штука. Делай там, что хочешь.
18:21безопасная штука. Делай там, что хочешь. Это, блин, текстовый редактор, который Это, блин, текстовый редактор, который Это, блин, текстовый редактор, который работает с оффлайн-файлами. Но после работает с оффлайн-файлами. Но после работает с оффлайн-файлами. Но после добавления туда AI помощника также была добавления туда AI помощника также была добавления туда AI помощника также была обнаружена уязвимость, которая позволяла обнаружена уязвимость, которая позволяла обнаружена уязвимость, которая позволяла удалённо выполнять код на компьютере удалённо выполнять код на компьютере удалённо выполнять код на компьютере невинного пользователя.
18:42Многие аксакалы нашей индустрии, которые Многие аксакалы нашей индустрии, которые начинали ещё с перфокарт и паяния начинали ещё с перфокарт и паяния начинали ещё с перфокарт и паяния процессоров, отмечают, что AI вполне процессоров, отмечают, что AI вполне процессоров, отмечают, что AI вполне возможно скоро приведёт к деградации возможно скоро приведёт к деградации возможно скоро приведёт к деградации инженерной культуры. айтишники всё инженерной культуры. айтишники всё инженерной культуры. айтишники всё меньше задумываются над оптимизацией меньше задумываются над оптимизацией меньше задумываются над оптимизацией кода, проектированием архитектуры. кода, проектированием архитектуры.
18:58кода, проектированием архитектуры. Зачем, если вот AI что-то выдало, в Зачем, если вот AI что-то выдало, в Зачем, если вот AI что-то выдало, в целом это работает, тесты проходят, целом это работает, тесты проходят, целом это работает, тесты проходят, выглядит плюс-минус нормально, ну и выглядит плюс-минус нормально, ну и выглядит плюс-минус нормально, ну и вперёд. Это извечная проблема, когда вперёд. Это извечная проблема, когда вперёд. Это извечная проблема, когда приходит новый инструмент, люди всегда приходит новый инструмент, люди всегда приходит новый инструмент, люди всегда разделяются на тех, кто считает, что разделяются на тех, кто считает, что
19:13разделяются на тех, кто считает, что настоящие трушные ребята должны настоящие трушные ребята должны настоящие трушные ребята должны использовать предыдущий и уметь использовать предыдущий и уметь использовать предыдущий и уметь обходиться без нового. И второй лагерь, обходиться без нового. И второй лагерь, обходиться без нового. И второй лагерь, который говорит, что зачем нам вот это который говорит, что зачем нам вот это который говорит, что зачем нам вот это ваше старое, если вот уже можно ваше старое, если вот уже можно ваше старое, если вот уже можно по-новому делать. Примеров куча. Взять по-новому делать. Примеров куча. Взять
19:27по-новому делать. Примеров куча. Взять хоть рукописный текст машинисток и хоть рукописный текст машинисток и хоть рукописный текст машинисток и впоследствии компьютеры или чертежи на впоследствии компьютеры или чертежи на впоследствии компьютеры или чертежи на миллиметровке и автокат и подобное миллиметровке и автокат и подобное миллиметровке и автокат и подобное полная
19:43зависимость от внешнего инструмента зависимость от внешнего инструмента также составляет риск. Например, сейчас также составляет риск. Например, сейчас также составляет риск. Например, сейчас всё больше людей пишет код на работе с всё больше людей пишет код на работе с всё больше людей пишет код на работе с Клодом или ещё какой-то любимой Клодом или ещё какой-то любимой Клодом или ещё какой-то любимой нейронкой. И по сути компании, которые нейронкой. И по сути компании, которые нейронкой. И по сути компании, которые создают для нас эти AI-помощники, могут создают для нас эти AI-помощники, могут создают для нас эти AI-помощники, могут диктовать ценовые политики, как им
19:59диктовать ценовые политики, как им диктовать ценовые политики, как им вздумается. Конечно, они ограничены вздумается. Конечно, они ограничены вздумается. Конечно, они ограничены рынком, но продвинутых AI моделей не то, рынком, но продвинутых AI моделей не то, рынком, но продвинутых AI моделей не то, чтобы бесконечное количество, и если все чтобы бесконечное количество, и если все чтобы бесконечное количество, и если все разом они, к примеру, поднимут цены до разом они, к примеру, поднимут цены до разом они, к примеру, поднимут цены до 200 долларов за подписку или за 2.000 200 долларов за подписку или за 2.000 200 долларов за подписку или за 2.000 долларов за подписку, уже привыкшим к
20:15долларов за подписку, уже привыкшим к долларов за подписку, уже привыкшим к этому внешнему инструменту разработчикам этому внешнему инструменту разработчикам этому внешнему инструменту разработчикам придётся за него платить. Например, в придётся за него платить. Например, в придётся за него платить. Например, в 2023 году после выхода Chat GPT4 Open AI 2023 году после выхода Chat GPT4 Open AI 2023 году после выхода Chat GPT4 Open AI резко изменила политику доступа к резко изменила политику доступа к резко изменила политику доступа к модели. Цены выросли, количество модели. Цены выросли, количество модели. Цены выросли, количество запросов сократилось, и доступ к модели
20:33запросов сократилось, и доступ к модели запросов сократилось, и доступ к модели стал ограниченным. В этот же момент у стал ограниченным. В этот же момент у стал ограниченным. В этот же момент у GitHub CPIL наблюдались технические GitHub CPIL наблюдались технические GitHub CPIL наблюдались технические сбои, иногда инструмент не отвечал. И сбои, иногда инструмент не отвечал. И сбои, иногда инструмент не отвечал. И понятно, что компании, которые радостно понятно, что компании, которые радостно понятно, что компании, которые радостно встроили этот инструмент свой привычной встроили этот инструмент свой привычной встроили этот инструмент свой привычной workflлоow разработки, сильно снизились
20:48workflлоow разработки, сильно снизились workflлоow разработки, сильно снизились темпы. Они привыкли, что какая-то работа темпы. Они привыкли, что какая-то работа темпы. Они привыкли, что какая-то работа делегирована в инструмент, а теперь делегирована в инструмент, а теперь делегирована в инструмент, а теперь вдруг, когда он не работает, надо снова вдруг, когда он не работает, надо снова вдруг, когда он не работает, надо снова делать всё это руками. Ну или ждать у делать всё это руками. Ну или ждать у делать всё это руками. Ну или ждать у моря погоды, когда там Microsoft моря погоды, когда там Microsoft моря погоды, когда там Microsoft починит, что они там сломали. Понятно,
21:04починит, что они там сломали. Понятно, починит, что они там сломали. Понятно, что спрогнозированный темп разработки что спрогнозированный темп разработки что спрогнозированный темп разработки резко упал, и наверняка это повлекло резко упал, и наверняка это повлекло резко упал, и наверняка это повлекло какие-то изменения в продуктовых планах какие-то изменения в продуктовых планах какие-то изменения в продуктовых планах команд. Давайте от фантазии к цифрам. команд. Давайте от фантазии к цифрам. команд. Давайте от фантазии к цифрам. Вот есть исследование, что GitHub Cilot Вот есть исследование, что GitHub Cilot Вот есть исследование, что GitHub Cilot ускоряет работу на 55%. Соответственно,
21:21ускоряет работу на 55%. Соответственно, ускоряет работу на 55%. Соответственно, GitHub CP мы в команду интегрировали, GitHub CP мы в команду интегрировали, GitHub CP мы в команду интегрировали, новую её продуктивность в сторипоинтах новую её продуктивность в сторипоинтах новую её продуктивность в сторипоинтах посчитали, и тут вдруг и мы откатываемся посчитали, и тут вдруг и мы откатываемся посчитали, и тут вдруг и мы откатываемся обратно на уровень производительности, обратно на уровень производительности, обратно на уровень производительности, когда мы делали всё руками. Понятно, что когда мы делали всё руками. Понятно, что
21:34когда мы делали всё руками. Понятно, что это несёт многомиллионные убытки и это несёт многомиллионные убытки и это несёт многомиллионные убытки и расхождение реальности с нашими планами. Какой отсюда можно сделать вывод? Какой отсюда можно сделать вывод? Разумеется, эти новости никак не Разумеется, эти новости никак не Разумеется, эти новости никак не доказывают, что AI надо запретить. не доказывают, что AI надо запретить. не доказывают, что AI надо запретить. не использовать его, писать код по старинке использовать его, писать код по старинке использовать его, писать код по старинке или решать другие задачи руками, потому или решать другие задачи руками, потому
21:55или решать другие задачи руками, потому что, ну, давайте согласимся, что мест, что, ну, давайте согласимся, что мест, что, ну, давайте согласимся, что мест, где AI действительно ускоряет или решает где AI действительно ускоряет или решает где AI действительно ускоряет или решает какие-то нетривиальные задачи, гораздо какие-то нетривиальные задачи, гораздо какие-то нетривиальные задачи, гораздо больше. Другое дело, что AI, очевидно, больше. Другое дело, что AI, очевидно, больше. Другое дело, что AI, очевидно, нельзя внедрять бездумно, понадеявшись нельзя внедрять бездумно, понадеявшись нельзя внедрять бездумно, понадеявшись на авось. Просто закинув всё в ней на авось. Просто закинув всё в ней
22:10на авось. Просто закинув всё в ней нейронку, оно выработает идеальное нейронку, оно выработает идеальное нейронку, оно выработает идеальное решение. Делая так, мы очень сильно решение. Делая так, мы очень сильно решение. Делая так, мы очень сильно рискуем впоследствии огрести вот этот рискуем впоследствии огрести вот этот рискуем впоследствии огрести вот этот вот технический долг, который свалится вот технический долг, который свалится вот технический долг, который свалится на нас, потеряет наши деньги или на нас, потеряет наши деньги или на нас, потеряет наши деньги или конфиденциальные данные, репутацию. конфиденциальные данные, репутацию.
22:26конфиденциальные данные, репутацию. Поэтому интегрировать AI в свой бизнес, Поэтому интегрировать AI в свой бизнес, Поэтому интегрировать AI в свой бизнес, рабочие или даже личные процессы нужно с рабочие или даже личные процессы нужно с рабочие или даже личные процессы нужно с умом, обкладывая тестами, аналитикой, умом, обкладывая тестами, аналитикой, умом, обкладывая тестами, аналитикой, опираясь на исследования. Ну а кто эти опираясь на исследования. Ну а кто эти опираясь на исследования. Ну а кто эти исследования аналитику может провести? исследования аналитику может провести? исследования аналитику может провести? Разумеется, AI. Разумеется, AI.
22:43Разумеется, AI. Шучу. Короче, надеюсь, вам понравилось. Шучу. Короче, надеюсь, вам понравилось. Шучу. Короче, надеюсь, вам понравилось. Напишите в комментариях, а были ли у вас Напишите в комментариях, а были ли у вас Напишите в комментариях, а были ли у вас какие-то проблемы с использованием AI. какие-то проблемы с использованием AI. какие-то проблемы с использованием AI. Может быть, вы уже отстрелили себе ногу Может быть, вы уже отстрелили себе ногу Может быть, вы уже отстрелили себе ногу или даже что похлеще. Ну и это был Антон или даже что похлеще. Ну и это был Антон или даже что похлеще. Ну и это был Антон Назаров. Начните уже зарабатывать Назаров. Начните уже зарабатывать
22:59Назаров. Начните уже зарабатывать больше.
