Как бизнес использует большие языковые модели

У меня в гостях Галина Вакулина, сооснователь и лидер направления «Данные» интернет-банка «Точка». Обсудили последние презентации Google, OpenAI, Microsoft и Apple в разрезе показанных там технологий на базе искусственного интеллекта. Почему языковые модели становятся дешевле, как регламентируется работа с ChatGPT в крупных компаниях, сколько обходится это бизнесу, почему люди все равно должны контролировать работу языковых моделей — это и многое другое в сегодняшнем выпуске подкаста. 

Приходите работать в «Точку»: https://tochka.com/hr/

✉️ Почта для рекламы, PR и другим вопросам:

[e-mail]

🌎 Найти нас в сети:

Чат в Telegram | Telegram подкаста | «Токсичный Епихин» | Наш сайт

Episode Transcript

(00:11):
Друзья, всем привет!
Это Бородокаст и микрофонный Сергей Пихин.
Сегодня будет выпуск, в котором мы будемговорить про большие языковые модели, про
маленькие языковые модели, протрансформеры и другие, возможно, всякие
страшные слова.
Обсудим все прошедшие мероприятия, которыесостоялись и в прошлом месяце, в мае.
Это презентация OpenEye, презентацияGoogle I .O., Microsoft Builds, от

(00:36):
Янадела.
тоже много говорил про искусственныйинтеллект.
Затронем, конечно же, и DubDubDC,прошедший вот буквально только что.
И делать я это буду в компании ГалиныВакуленной, сооснователя и лидера
направления данные, интернетбанка .чка.
Галина, привет.
Привет -привет.
Я очень рада, что сегодня мы с тобойвместе это все обсудим.

(00:58):
Будет интересно.
Да, сложно тебя поймать.
И вот достаточно удачно, что наша встречасостоялась буквально после DubDubDC.
после вчерашней презентации.
Поделись своими впечатлениями, что тыподметила, какие у тебя мысли по поводу
конференции и AI, Apple Intelligence, каканонсировал Тим Кук.

(01:20):
Ну, если честно, я думаю, что это былоожидаемо.
Ожидаемо, что они представят что -тотакое.
Все ждали, что в Сирии будет встроен ЧАД-GPT, и все просто гадали, как же они это
представят.
Если честно, пока сложно говорить о том,насколько это будет круто, потому что пока

(01:41):
это только анонс.
Слегка пугающе, я бы сказала.
Некоторые вещи меня, правда, слегканасторожили про то, что Apple собирается
использовать данные из приложений длятого, чтобы больше понимать контекст.
Но в целом интересно, и был вопрос, какони собираются обрабатывать большое

(02:03):
количество информации, справиться сэтим...
устройство или надо будет отправлятьданные в облака, судя по всему, они все
-таки рассчитывают, что большую частьинформации они смогут обрабатывать на
устройствах.
Поэтому я вот, например, собраласьпокупать новый iPhone для того, чтобы
тестировать и смотреть, как это будет.
Ну, я так понял, на самом деле, не так ещемного различных фимансов, потому что

(02:26):
DubDubDC идет несколько дней, и новоститут постепенно...
приходят, не очень ясно, что там за модельлокально используется в iOS, MacOS.
В целом, я так понимаю, что это какое -тособственное решение от Apple.
И при этом эта модель будет понимать,когда будут какие -то ресурсоемкие задачи.

(02:46):
И в случаях, если она понимает, чтолокальной модели не хватает для их
решения, она будет обращаться в облако.
У Apple там отдельный был кусок,посвященный вот этому Private Cloud
Compute, как они это называют.
Там тоже какие -то нейронные сети, нотехнических деталей пока не так много,
поэтому вряд ли мы, наверное, можем стобой сейчас их обсуждать.

(03:07):
Но не одно и у тебя опасения.
Вот тот же Иван Маск в социальной сетиXCOM написал, что если, значит, Apple
интегрирует чад GPT на уровеньоперационных систем, то в группе компаний,
которые принадлежат Ивану Маску, будетзапрещено внутри пользоваться айфонами, а
всех гостей будут заставлять сдаватьайфоны в ящик Фродея, который специально

(03:29):
поставят на входе.
чтобы не дай бог что -нибудь лишнее насервера ЧАНДЖПТ оттуда не улетело.
Я думаю, что это всё равно на каком -топромежутке времени достаточно долго не
спасёт бедного Илона Маска от того, чтобыкакие -то данные утекли в ЧАНДЖПТ или
другие бывшие языковые модели.
Думаю, что не такой он и бедный.

(03:50):
Если честно, я думаю, что круто, что Appleвсё -таки анонсировали эти технологии у
себя.
Надо сказать, что...
Очень много сейчас попыток найтиинтересное применение большим языковым
моделям.
Многие пытаются сделать, завернуть какие-то сервисы.
Как мы знаем, Apple хороши в том, чтобыделать классные сервисы, красиво их

(04:13):
заворачивать, чтобы было удобнопользоваться и чтобы ты ахал каждый раз,
когда ты этим пользуешься.
В общем, я рассчитываю на то, что Appleсделает классную реализацию продуктов.
Потому что сейчас не очень много этого нарынке.
Галина, а вот ты как человек, которыйзанимается, собственно, этими продуктами,
есть такое мнение, что Apple, как бы,последнее время занималась чем угодно, но

(04:37):
не, собственно, развитием языковыхмоделей, нейронных сетей.
Ну, то есть понятно, что были какие -тоштуки связанные там с машинным обучением,
чтобы где -то фотографии сортировать, ещечто -то.
Но кажется, что в целом этот сегмент рынкаApple был не очень интересен.
И, условно говоря, все, что мы увидели напрошедшей DubDubDC, это такой момент, как

(04:58):
жареный петух укусил, и значит, компания впанике пытается что -то сделать.
В панике мы увидели эти новости, что Appleискала партнеров и общалась в том числе с
компанией Google по поводу интеграции G-mini, и вот партнерство в лице OpenEye
соответственно анонсировали наконференции.
Вопрос в том, вот то, что мы увидели, какты считаешь, насколько давно Apple над

(05:22):
этим работает?
Можно ли...
Вот такие анонсы, которые мы увиделивчера, можно ли было это все собрать, ну,
условно, там, за полгода, за 8 месяцев?
Не знаю, насколько долго, но могу сказать,что в целом довольно много компаний, в том
числе и таких больших игроков, как Apple иGoogle.
Мне кажется, они были вот укушены этимижаренными петухами в момент, когда вышел

(05:46):
Open Eyes, чат GPT -3.
И в этот момент, кажется, они поняли, чтотам...
есть огромные перспективы, надо срочнотуда бежать.
Мне кажется, возможно, до этого они тоже вту сторону смотрели или думали, но тот
момент был все -таки ключевым для многихкомпаний.
И сейчас мы действительно видим, что естьOpenAI, которые поставляют эти технологии,

(06:09):
которые по умолчанию лучше сейчас нарынке.
И есть все остальные.
Как мне кажется, Google все -таки пытаетсяуспеться в этот поезд заскочить, но пока
непонятно.
заскочил он в него или нет.
Есть Microsoft, который просто вовремяуспел запартнериться с OpenAI.
И, ну, во -первых, они там дали бустсвоему поисковику, который медленно

(06:32):
загибался.
Во -вторых, они сейчас научились делатьклассное применение вместо того, чтобы
обучать большую языковую модель сня.
А если говорить про точку, про то, чем тызанимаешься?
Вас когда этот петух клюнул и клюнул лиуже?
Нас тоже клюнул этот петух, когда мыувидели ChiaGPT -3.
И мы посмотрели на него и увидели, что этодействительно технология, которая способна

(06:56):
в будущем перевернуть мир.
И, собственно, в этот момент Chage .GPT 3,Chage .GPT 3 ,5, мы начали на это
смотреть.
И мы решили, что если мы не побежим тудасейчас, то потом бежать будет гораздо
сложнее и будет уже поздно.
Поэтому мы в прошлом году уже началивнедрять решение на основе Chage .GPT.
И мы внедрили возможность пообщаться с нимпрямо внутрь поисковой строки Интернет

(07:21):
-банка.
Это возможно, это сейчас есть.
То есть там можно пообщаться на любуютему, но по большей части на тему, как
взаимодействовать с точкой и на любыебизнес -вопросы.
Он может дать классный ответ.
А «Чаджи -ПД3» получается где -то начало23 года, да?
Да, где -то так.
Конец 22 -го, начало 23 -го.
Кажется, что когда мы говорим пронейронные сети, языковые модели,

(07:46):
почему -то вот в представлении обывателявсе всегда начинается в чат GPT.
Сам Альцман сделал нам компанию, он началс этим делом работать, но это же не так.
До этого были и другие технологии, и вточке наверняка тоже что -то делали
раньше.
Расскажи, что делали раньше и почемуименно появление чат GPT 3 .0, почему это

(08:08):
такой водораздел, когда все поменялось?
Ну, мы в точке...
Классическое такое машинное обучениеначали применять довольно давно, ну
сравнительно.
Года, наверное, 2016 -го, все началось сантифрог моделей.
Мы сейчас применяем это в оценке рисков.
В Медриле тоже много машинного обучения вобслуживании, в продаже, в продуктовые

(08:30):
сервисы.
Ну, то есть с этим мы играем довольнодавно.
Почему ЧАД -GPT -3 был водоразделом?
Мне кажется, в этот момент все поняли, чтомашина...
может реально походить на человека, чтоона может действительно давать вменяемые
ответы, которые не нужно предварительнозаносить в базу данных.

(08:53):
И мы сейчас активно тестируем и внедряемразные сервисы на базе генеративных
моделей, и это правда какой -тобесконечный, мне кажется, потенциал для
внедрения.
Понятно, что текущие LLM все равно еще неочень похожи на человека, всегда можно
отличить.
пишет этот человек или чат ГПТ.
Кроме того, что я сказала, что мы внедриличат ГПТ в Байсковую стронг -интернет

(09:17):
-банк, мы делаем всякие внутренние кейсы.
Например, кто знает точку, тот знает, чтоу нас довольно уникальный язык общения с
клиентами.
Он такой одновременно дружелюбный, приэтом неформальный, заботливый, иногда чуть
такой ироничный.
И всегда было сложно написать новуюклиентскую коммуникацию в стиле точки.

(09:40):
огромное количество работы редакторов.
В общем, мы сделали так, чтобы у насмоделька по предложенным параметрам могла
выдавать некую рыбу текста, которая похожана тону фоисточки.
То есть мы сильно сократили количествоработы для редакторов, у них уже есть
более -менее подготовленная рыба.
То есть вы загрузили свой датасет, всесвои текста, чтобы ChargPD

(10:02):
проанализировал.
Ух, интересно, как безопасники смотрели наэту.
Ну, мы же не загружали туда номера счетов,имена клиентов и их сотовые телефоны.
Это как раз -таки не нужно.
Мы загружали примеры именно каких -тофраз, новостей, информации, рекламы, того,
как мы это пишем.

(10:22):
У вас сейчас есть такой внутреннийинструмент для редакторов, получается,
который, условно, tone of voice соблюдает,который установлен у вас в редакционной
политике.
Да, такое есть.
У нас это не единственное тоже применениево внутренних...
процесса чета ГПТ.
Но мне кажется, это такое самоеприкольное, самое милое, что может быть,
когда вот с тобой вот чет ГПТразговаривает в стиле точки.

(10:46):
А если вообще брать глобально пробанковскую сферу, какие вообще сферы
применения есть для вот таких языковыхмоделей здесь?
Ну кроме вот того, о чем ты уже говорила.
Мне кажется, что применение в банковскойсфере не сильно будет отличаться от любой
другой технологичной сферы, от телекомов,от ритейлов, макетплейсов и так далее.

(11:07):
Понятно, что это консультации.
А сейчас, мне кажется, все пошли вконсультирование к клиентам с помощью
языковых моделей.
Понятно, что это рекомендательные системы,это синтез речи, воспознавание речи, все,
что вокруг этого.
Это оптимизация разных внутреннихпроцессов, достаточно трудоемких.
Если говорить про отличия, у нас вбанковской сфере довольно много процессов

(11:31):
и данных зарегулированных.
Есть закон о банковской тайне, есть...
закон о защите персональных данных, и унас много где связаны руки.
Поэтому, во -первых, мы всегда оченьтщательно вычищаем сейчас данные, которые
мы сфарбливаем языковым моделем, чтобы ихдообучать.
Второе, понятно, что мы стремимся к тому,чтобы иметь внутренние ресурсы LLM, чтобы

(11:55):
не распространять никакие данные для того,чтобы обучались сторонние LLM на этих
данных.
Расскажи, как вообще для бизнеса выглядитпроцесс интеграции таких моделей.
Была конференция Microsoft, там СатьянаДелла выступала, большая у него была такая
часовая лекция.
Я какие -то нюансы этой лекции подмечал, именя удивила там цифра, то есть он так

(12:16):
вышел из таким достаточно пафоснымслайдом, у нее была цифра 50 тысяч
компаний сегодня используют решениеMicrosoft на базе искусственного
интернета, и мне показалось, 50 тысячкомпаний, но кажется, что это не очень
много.
для такой большой корпорации Microsoft,которая работает на всех континентах нашей
планеты.
Расскажи его с точки зрения бизнеса, в чемвообще сложность интеграции языковых

(12:41):
моделей, и как у вас этот процесспроходил, что это потребовало от вашей
компании с точки зрения, не знаю, поискановых сотрудников, какой -то организации
работы, смена каких -то парадигм внутрипроцессов.
В общем, можешь про это рассказать?
Да, ну давай вернемся сначала к Microsoft.
Я насколько поняла, Сатиана Делла говорилапро компании, которые используют именно AI

(13:06):
-решения от Microsoft, для этого онидолжны быть подписаны на Azure.
Да, Azure и AI у них отдельные как -тоесть.
Azure.
I speak little bit English.
В общем...
Не, я тоже Azure уже.
Ну, пускай будет Azure.
Знаешь, правильно говорить вообще«жиминай» по уму, но как бы тоже
«жиминай», но как -то не очень по -русски,поэтому мы все говорим «жимини».

(13:27):
Да, звучит для русского человека, да.
Довольно странно.
В общем, я предполагаю, что подпиской наАзу пользуются довольно крупные компании,
потому что подписываться на негоисключительно, чтобы использовать AI,
довольно странно, мое мнение.
И поэтому я думаю, что эти 50 тысячкомпаний — это те достаточно крупные и
достаточно технологичные компании, которыемогут себе позволить такую подписку.

(13:49):
А если, например, говорить про OpenAIEnterprise, то там сейчас...
Я вот недавно спрашивала в чате КПТ,сколько...
пользователей.
Там примерно 600 тысяч пользователей, ноон даже ссылочку дал, я там проверила.
600 тысяч пользователей звучит уже в целомдостаточно прилично, лучше, чем 50 тысяч.
Я при этом думаю, что многие онииспользуют просто как физические лица, как

(14:14):
персональный доступ к чату ГПТ для того,что пришла бизнес задача.
Вот, для того, чтобы это встроить, зависитот бизнес задачи, зависит от того сервиса,
который ты используешь.
Обычно это несложно, это подключение черезAPI.
Веселье начинается, когда ты правильноотметил, когда нужно искать правильных
людей, которые будут написать правильныепромты.

(14:36):
А промт -инженер — это новая ниша длялюдей, это новая специальность, которая
возникла буквально уже полтора года назад.
И нам нужны такие люди, которые будутписать правильные запросы, которые будут
делать правильные модели для тестированиявсех этих ответов.
То есть это...
Прям большой новый кусок, большая новаяниша.

(14:56):
И там нужны как разработчики, так и вотпромд -инженеры и прочие люди, которые
понимают все эти особенности.
Промд -культуры.
Ты упоминала про историю с редакторскойработой, про то, как вы текста подгоняете
под тону фвест.
Понятно, что ты не можешь точную цифруназвать, но кажется, что редактор – такая

(15:17):
повседневная работа, наверняка их...
достаточно заметное количество точки.
В общем, хотелось узнать с точки зрениябизнеса, какой вообще порядок стоимости
для бизнеса уровня точки, ну, то естьсколько вы платите за доступ к АПИ в
Charge 5.
Понятно, не точную цифру, но это тысячидолларов, сотни тысяч, десятки тысяч
долларов.
Просто интересно понять, сколько самAltman зарабатывает.

(15:41):
На нас пока не очень много.
И пока до сотен тысяч долларов в год мы недобежали.
Да и не планируем, если честно.
Мы все -таки рассчитываем, что мы не будемвечно привязаны к одному только чат ППТ.
Мы рассчитываем использовать какие -тодругие модели, Open Source в том числе.
Ну, в общем, с СМАльтимон, извини, многоденег ты от нас получить не сможешь.

(16:04):
Ну, кажется, что да, если посмотреть навообще все конференции, которые в мае
прошли, кажется, такой общий есть тренд,что ли, на то, что доступ становится
дешевле, он становится доступным.
И что Google, что OpenAI, они как быдекларируют в качестве своих ценностей
сделать доступ к технологиямискусственного интеллекта доступным

(16:26):
максимальному количеству людей.
Отсюда и расширение каких -то бесплатныхвозможностей, так и понижение стоимости
доступа к API.
Да, и я периодически задаюсь этим вопросомтоже.
И мне кажется, что первое, что они сейчасбьются за некую долю рынка,
А второе, мало поставить технологию.

(16:49):
Технология — это хорошо, надо, чтобы былипонятны применения.
Я думаю, что они бьются сейчас за теприменения, которые можно построить на их
основе.
Плюс, какие данные -то включают в этимодели те, кто будут пользоваться ими.
Это тоже важно.
И после того, как, мне кажется, сократитсяразрыв между моделями в части точности,

(17:14):
ответа...
а генерации текста и так далее, будетконкуренция там, где модели смогут достать
классно и уникальные новые данные.
Я думаю, что поэтому, чем больше людейсейчас пользуются, тем это лучше для их
создателей.
А потом, когда уже люди, так сказать,подсядут на эти модели, когда они построят
классное применение, уже можно будетдумать, и как конкурировать по цене.

(17:38):
Я думаю, что стратегия примерно такая.
Для частного бизнеса есть вообще смыслвкладываться в создание собственных
больших моделей?
Если здесь… Ну, то есть, использовать своиданные, да, понятно, особенно когда… Если
мы говорим на примере «Банка .Точки»,банковская сфера, очень всё чувствительно,
понятно, что, наверное, хочется какие -товнутренние решения иметь.

(18:00):
И учитывая вот эту большую гонку, которуюмы наблюдаем, есть ли смысл вкладываться в
создание своих моделей?
или вы используете опять -таки каких -тоопенсорсных, которые можно обучить на
собственных данных, и делаете ли это вы вточке?
Обучать модели с нуля – это действительноочень трудоемко.
Это требует невероятного количества людей,железа и усилий.

(18:22):
Поэтому я думаю, что это удел крупныхтехнологических гигантов, которые хотят
таким образом сделать себе им.
Мы в точке не планируем обучать с нуля.
новые модели и не видим в этом если частонеобходимости, потому что сейчас есть
довольно много достойных опенсорсныхмоделей, как раз которые делают вот эту

(18:44):
самую дорогую и сложную работу этопритрейн.
И когда за тебя уже сделали это работадругие дянемки вот с кучей железок и тем
более что они постоянно работают надулучшением качества, тут вопрос уже в том
как адаптировать это под себя, под свойдомен, под свой язык.
как это применять и дотачивать подопределенные задачи.

(19:05):
И мне кажется, что это второй уровеньзадач, который для нас более интересен, и
мы просто сейчас хотим сосредоточиться нанем.
Тут видеокарт на всех не напасешься, чтобывсе это обучать.
Ой, это боль.
Да.
Но, кстати, сейчас и Нвидия о своейпрезентации, и, насколько я помню, Сатиан

(19:28):
Аделла тоже говорил в презентации, чтосейчас как раз...
и железо под это подстраивается именно потехнологии LLM, чтобы они работали быстрее
на меньшем количестве железа.
И это тоже некая, ну, я бы сказала, дажереволюция в этом подходе.
Сегодня, я, к сожалению, детали не помню,но видел новое, что сегодня Яндекс в Open
Source выкатил какую -то свою модель дляобучения больших моделей, которые как раз

(19:51):
экономят производительность, так как,видимо, что с Бершто -Яндекс, ну, не могут
по объективным причинам конкурировать с…
мощностями, которые есть у Google, OpenA идругих ребят на Западе, вот пытаются
оптимизацией как -то выезжать, и вот они вOpen Source выкатили свою модельку,
которую можно использовать для обучения.

(20:12):
Да, это так.
И Яндекс .СБ довольно много сейчасвыкатывают разных обновлений и довольно
много делают разных фич, применений,посмотрим, что из этого получится.
Ты со своей стороны как -то смотришь нато, что делают Яндекс .СБ?
То есть вы используете чат GPT.
Ну понятно, что это лидер рынка, но опятьже это, там, западная компания, наверное.

(20:36):
Возможно, какие -то есть ограничения.
Есть какие -то ограничения по доступу кчат GPT для бизнеса?
Из России?
Из России.
Да.
А ограничения, безусловно, есть.
И я не знаю, как сейчас, но когда япробовала достучаться до чата GPT с
российского IP -адреса, это былоневозможно.

(20:59):
Поэтому это одновременно, конечно, игрустно, и звучит как визах, потому что,
да, у нас мало из России возможностейдоступа к таким западным технологиям, как
Chatchpt и прочие языковые модели, которыетам разрабатываются.
С другой стороны, это как раз возможностьдля российских гигантов сделать что -то

(21:22):
свое и иметь своего пользователя нароссийском рынке.
Я подсматриваю одним глазом за тем, чтоделают, конечно, Яндекс и Sber.
Я спрашиваю в разрезе того, есть ли у васдиверсификация, правильно слово такое,
потому что если вспоминать даже вчерашнююпрезентацию Эпла, даже у них там

(21:45):
промелькнуло, что у нас есть Siri, котораялокально работает на устройстве, а если
вдруг что -то вам надо, она вроде каксходит к…
старшему брату к чаджи PT и попросит его.
А может быть, в будущем она сходит нетолько к нему.
И мне показалось, что это такой вотмоментик, как с поиском, например, у Apple

(22:08):
в iOS, который она продает Google замиллиард, по -моему, даже больше долларов
ежегодно.
И Apple может, с одной стороны,монетизировать эту историю, что Siri может
ходить, например, к OpenAI, а может, не кOpenAI, к кому -то другому.
Вот есть ли такая диверсификация у вас?
И смотришь ли ты, ну опять же, на то,чтобы не только, допустим, к OpenIO, но и

(22:30):
по опишке к Sber, GigaChat уходить,условно говоря.
Ой, слово Sber.
Я сказал слово Sber в подкасте с очками.
Это неправильно, кажется, как нельзяделать.
Ну, мы никому не скажем.
Да.
Ну, во -первых, нет.
К GigaChat идти, подключаться у нас плановнет.

(22:50):
И мы не очень хотим...
добавлять свой контекст в тот же сберегикочат.
У нас больший план в том, что мы хотимиспользовать другие модели опенсорсные,
те, где можно держать всю модель в контуребанка.
Почему, мне кажется, это важно, потомучто, как я уже сказала, мне кажется, через

(23:14):
какое -то время конкуренция будетстроиться на том, кто достанет более
интересные источники, более актуальныеданные.
на чем обучаются модели.
То есть понятно, что все обучаются наоткрытом интернете.
В открытом интернете есть куча информации,часто противоречивые, часто не очень
актуальные.
А дальше, когда хочется дать человекуболее точный ответ, более точную

(23:38):
информацию, ту, которую он больше неполучит нигде, хочется такие данные
держать у себя и больше ни с кем ими неделиться.
Тут можно вспомнить интервью Миры Миратидля Wall Street Journal, где ее
спрашивали, на каких данных обучается вашамодель ссора на общедоступных на YouTube,
на Instagram.
Может быть, на вашем договоре Shutters.Stock, но она так и ничего не ответила на

(24:01):
этот счет.
Сказала просто на общедоступных данных.
Каких данных история умалчивает?
Слушай, опять же, вспоминая майскиеконференции, тоже такой, наверное,
момент...
ключевой для индустрии, все ведущиеязыковые модели стали мультимодальными.
Опять же, если говорить про отечественныеаналоги, пока они тут немножко отстают от

(24:22):
западных.
Можешь в двух словах объяснить, почему этоважно, почему это большое событие для
индустрии?
Если честно, мне кажется, это больше такаяхайповая история, потому что далеко, мне
кажется, не во всех кейсах необходимамультимодалька.
Например, в чате...
можно сделать голосовой ввод и безмультиматальности.

(24:45):
И голосовой вывод можно сделать, используясинтез речени и обязательно при этом
использовать мультиматальную генеративнуюсеть.
Есть кейсы, наверное, когда она нужна,например, как в презентации Microsoft, ты
показываешь кроссовке удырочкувидеокамеру, она тебя подбирает другие
кроссовки и тут же генерирует текст голос,где их купить.

(25:06):
Мне кажется, таких кейсов в целом немного.
Это больше про инвестиции в какое -тоупрощение, когда сервису, бизнесу вместо
трех моделей, вход, генерация, выход,можно использовать только одну, которая
больше понимает контекст.
Вы как -то это используете сегодня, ну, тоесть, допустим, в той же поддержке, да?

(25:26):
То есть, кому -то приятен инструмент чатаклассического, кому -то, наверное, удобнее
вызвать голосового ассистента, чтобыголосом пообщаться.
То есть, это сегодня уже...
применяется как -то на практике?
Пока нет.
В планах, конечно же, есть и голосовоеобщение, и синтез речи, и так далее.
Пока мы только в тексте.

(25:48):
Но у вас уже поддержка, то есть естьтакая, роботизированная, скажем так,
естественно, наверное.
Ну, смотри, для нас, как для точки, оченьважно всегда оставаться с клиентами на
связи именно как людям.
И поэтому мы никогда не будем заставлятьклиентов общаться с чатботами.
И всегда будет возможность поговорить сживым человеком, либо голосом, либо в

(26:11):
чате.
Это прекрасно, потому что иногда, чтобыдостучаться там до живого человека, не
будем называть банки, но иногда бываеточень тяжело.
Да, и когда ты говоришь оператор,оператор, оператор, тебя, значит, пытаются
переодессовать все равно на чатбота,который не очень понимает, что ты хочешь.
Вот, и мы прекрасно знаем эту боль, и вобщем для нас это основная ценность, что

(26:32):
все -таки живая лишь в таблическойподдержке всегда должна быть.
Слушай, а как вообще экономика -то здесьбьется?
То есть нет такого, что тебе дешевлереально держать 100 живых человек, чем
опачивать доступ и кучу запросов к ЛЛМ-ке?
Ну смотри, например, про ответы в чате.
Можно сказать, что вот есть метрика, когдау тебя есть на тысячу клиентов обязательно

(26:53):
один человек, у которых поддержки.
Я сейчас уфловываться.
И в этот момент ты просто не можешьбыстрее расти и масштабироваться, потому
что если ты растешь в тысячах клиентов,тебе надо постоянно нанимать людей,
обучать людей.
В какой -то момент текучка кадровдостигает какого -то порога, и тебе надо
доделать постоянно.

(27:13):
А потом, когда еще разрастается штат, ичеловек там становится не пять, не десять,
а их десятки и сотни, это уже помещение,ремонт.
Это отдельные люди, которые...
занимаются документами и прочим.
То есть это огромные накладные расходы,которые растут линейно.
И тогда любая технология, которая сможетуменьшить вот этот коэффициент линейной

(27:35):
зависимости, она становится выгодной.
Так что да, любой инструмент, которыйпомогает нашим специалистам быстрее
отвечать, качественно искать информацию,давать более понятные ответы, это всегда в
плюс.
И всегда окупается.
На презентации «Микросот» был такойстранный пример, опять же, возвращаясь к
мультимодальным…

(27:55):
моделям, значит, где человек покупал товарв туристическом магазине, показывав в
камеру ботинки, там изображениераспознавалось, показывались товары,
которые ему подходят по этому ботинку,который он в руках держал.
Плюс он какие -то уточняющие вопросыголосом задавал.
Ну, короче, довольно это всё наиграннонесколько выглядело, но тем не менее.

(28:16):
Я знаю, что вот вы в точке, помимо того,что делаете банк для предпринимателей,
у вас есть какие -то сопутствующиесервисы, и одним из таких был сервис для
продавцов на маркетплейсах.
Кажется, что немножко бьется даже с тем,что Microsoft показывал.
Вот в какие -то такие штуки вы смотрите врасширении того, что вы можете делать для

(28:38):
других бизнесов, и для каких бизнесовможно подумать применение вот таких вот
технологий, что приходит на ум, можетбыть, на чем -то уже работает.
Давай про примеры.
Он действительно был сильным упрощением.
Смотрю у меня кроссовки в дырочку,подойдут ли они для холодной погоды.
Но я думаю, что, во -первых, будетдовольно много попыток сделать какого -то

(29:02):
персонального стилиста, который тебя будетпопирать в модные луки и говорить, вот это
желтое платье сочетается с теми, не знаю,красными туфлями.
Я думаю, что это именно marketplace ибудет востребовано, типа, подперемнева.
этим джинсом, эту рубашечку.
Потому что маркетплейсы в принципе могутсильно изменить все способ взаимодействия

(29:22):
с покупателями.
Согласись, вот сейчас это мишенины из кучидовольно похожих товаров.
Надо еще выбрать этот товар.
Не очень понятно, как его выбирать.
Да, маркетплейсы за последнее время, они,честно, проделали очень такой странный
путь от таких вылезанных бутюков, скажемтак, до…
как бы ты открываешь сегодня любоеприложение, и на тебя просто куча всего

(29:47):
валится с разных сторон.
Очень какие -то у них сложные реальныеинтерфейсы в современных Marketplace.
Довольно сложно, прямо скажем честно,разобраться сходу, что ты там можешь найти
и купить.
Причем неважно, какой это Marketplace.
И я про это же, что, возможно, это можетбыть каким -то новым шагом к тому, чтобы
для покупателя стало проще выбирать, сталопонятнее.

(30:12):
какой ты можешь товар приобрести, как этобудет выглядеть на тебе, или как это будет
выглядеть в твоем интерьере.
Может быть, это будет какой -то AI-дизайнер, не знаю, AI -садовник и так
далее.
А по поводу точки, точка уже сделалаподход к тому, чтобы помочь клиентам
генерировать более конверсионные карточкипродуктов, делать привлекательные

(30:33):
описания, картинки.
Но это в целом такая очень стандартнаязадача для генеративного AI, и это
встроено в наш сервис сейчас.
А я думаю, что дальше, через какое -товремя, это может быть действительно частью
чего -то большего.
И я думаю, что и маркетплейсы будут делатьшаги в эту сторону, и мы будем делать шаги
в ту сторону.

(30:54):
Как помочь селерам лучше взаимодействоватьсо своими клиентами.
Как помочь им подобрать то, чтодействительно им будет приятно купить.
Ну и, собственно, давайте посмотрим, какэто будет дальше выглядеть.
Ну, нам для этого прям действительно нужныбольшие языковые модели.
Вот мы как -то раньше же без них всеобходили, жили, и, ну, можно посмотреть

(31:19):
тот путь развития, который проделалирекомендательные системы, в чём, ну, не
важно какие, там, что YouTube, чтомузыкальные стриминговые сервисы, что те
же самые маркетплейсы.
И, ну, в целом как -то обходили же мы безвот GPT всяких и так далее.
Почему они нам нужны сейчас?
Действительно обходились и до сих пор, ядумаю, что главный вопрос — точно ли нужно

(31:44):
в этой задаче использовать ЧТГПТ.
Так же, как вопрос — точно ли нужно в этойзадаче использовать машинное обучение.
Потому что часто задачи решаются гораздопроще, чем вставка любого машинного
обучения или LLM технологий.
Но я думаю, что будет еще больше просторадля попыток разного вида персонализации.

(32:06):
Ну, потому что, например, представьподстроить рекламное предложение или в
целом перестроить карточку товара вmarketplace под стиль, под манеру общения
человека, который будет с тобойразговаривать на твоем же языке.
Мне кажется, это какая -то фантастикабудет.
И я думаю, что это правда может как -тосильно изменить венок.

(32:26):
Я думаю, что это будет...
Это про какие -то принципиально новыетехнологии, попытку отрасформировать само
взаимодействие с интерфейсом.
И это то, что имеет довольно ограниченныйпотолок применения, если ты используешь
просто машинное обучение.
Ждем сериалы на генеративных моделях вроде«Соры», чтобы они сразу сюжет еще

(32:51):
развивали, учитывая твои предпочтения налету, чтобы ты включал какой -нибудь
сериал, и он развивался конкретно подтебя.
Мне кажется, что на самом деле...
Так, если подумать, это не далекоговремени перспективы.
когда такие штуки можно будет делать.
В свое время, наверное, Netflixэкспериментировал у них.
Вот был специальный эпизод «Черногозеркала», где можно было принимать какие

(33:13):
-то решения.
Кажется, что буквально вот еще лет пять, ив целом мы сможем на лету генерировать
такой контент.
Интересно будет на это посмотреть.
Но, знаешь, я читал книжку про цифровыенаркотики, присвавутые из нашего детства.
что в будущем можно будет к человекупросто подключить, как есть нейролинк у

(33:35):
его маска, который считывает сигналы втвою мозгу, и генеративной нейронкой
создавать изображение, при просмотрекоторого у человека будут эндорфины в
кровь поступать, и подкидывать ему воттакие вот картинки, они даже могут быть
какие -то неосознанными, и в итоге можночувство эйфории у человека поддерживать

(33:56):
бесконечное.
цифровые наркотики тоже вполне себереальная перспектива.
Да -да -да, бесконечная лента TikTok,который подстроился под тебя настолько,
что ты не можешь просто его закрыть.
Страшное дело.
Оно уже есть.
Слушай, хотелось спросить пробезопасность.
Мы его на маске вспоминали.

(34:16):
Вообще, большая эта проблема для компаний.
У всех наверняка есть политики какие -тосвязанные с этим.
Наверняка и у вас есть.
Можешь рассказать?
Условно, какие есть политики у вас поиспользованию чата GPT?
Можно ли грузить код туда, корпоративный?
Какие данные можно туда грузить?
Ходят ли безопасники пальцем, стучат там?

(34:38):
Не рассказывай ему лишний раз что -то.
Вот я в чат GPT, знаешь, однажды загрузилсвои анализы, до сих пор испытываю чувство
грузения по этому поводу, что предоставилэтой языковой модели больше информации о
человечестве.
Теперь он знает лучше, как мы устроены.
Возможно, когда -нибудь...
это ему поможет от нас избавиться.

(34:58):
В общем, короче, можешь сказать, каквообще в компаниях, какие подходы есть с
точки зрения безопасности, что можно, чтонельзя, и вообще, как ЧАД -GPT встроен в
твой воркфол личный?
Не знаю, пишешь ли ты код с помощьюкопилотов, как коллеги твои себя ведут?
Можешь про такую внутреннюю немножкорассказать?

(35:20):
Да, во -первых, про наши внутренниеполитики мы...
Каждый раз, когда делаем какой -то новыйкейс с чатом GPT, мы обязательно идем
спрашиваем наших безопасников, юристов,можно или нельзя.
И первое, что, конечно, мы делаем, мывсегда вычищаем любую персональную
информацию из того текста, которым дальшеподаем на вход в чатбук.

(35:45):
Это прям обязательно.
И у нас куча по этому поводу стоит.
маячков, которые проверяют, что там ничеголишнего нет.
Для нас это супер важно, мы очень бережноотносимся к информации, которая у нас
внутри есть.
Второе, конечно, нам тоже не хочется тамкуски своего кода сливать в чат GPT,

(36:09):
несмотря на то, что OpenAI Enterpriseподписка говорит о том, что те данные,
которые компании предоставляют по этойподписке, они больше не используются для
доучения.
Ну, мы шли с нами наверняка.
Поэтому не очень хочется тоже это светитьи потом помогать человеку чипить и

(36:29):
обучаться на этих данных.
Так что мы к этому подходим прям оченьосторожно, потому что иначе там можно
будет правильным правдом наставить лампку«заговорить» и попасть в очень неклиентную
ситуацию.
И, собственно, поэтому мы хотим...
какие -то кейсы решать на своих внутреннихсистемах или на чате GPT, там у нас будет

(36:55):
гораздо больше свободы действий.
Как я пользуюсь в жизни?
Ну, я с чатом GPT каждый день на связи.
Я с ним советуюсь по многим вопросам.
Понятно, что да, когда, например, у менякакая -то ошибка вылезает в запросе, я
спрашиваю у чата GPT, что это такое, оночень быстро может найти.

(37:17):
И мне кажется...
Это тоже такой огромный простор длядействия.
Такое ощущение, что через какое -то время,когда большие языковые модели научатся
решать достаточно сложные задачи, встанетвопрос о том, а нужны ли вообще люди,
которые пишут код.
И машины будут писать код сами для себя.
А второе, я как это, обстукиваю идеи.

(37:40):
Ну, то есть у меня возникает какая -томысль, какая -то идея, и я ряду
разговариваю с чапом GPT.
И проверять эту идею на адекватностьработы.
Это, кстати, прикольно.
И он тоже подает разные идеи, которые ужепотом можно идти и обсудить с живыми
людьми.
И, собственно, мне кажется, это одно изосновных преимуществ.
Ну, то есть как бы мы забываем, что GPT –это такие генеративные модели.

(38:03):
Они больше используются для того, чтобычто -то генерировать новое.
Поэтому, в общем, от GPT мы лучший друг.
Да, об этом, кстати, Сэм Альтман говорилдаже в своих выступлениях, что в целом
люди 99 % запросов от людей к OpenAI – этопросто такое обращение как к базе данных,

(38:24):
то есть какие -то предложения именно чтопоразмыслить, пофантазировать, что -то
придумать.
Люди пока просто не совсем даже привыкли ктакому инструменту.
В общем, чаще всего используют какпоисковик обычный.
Ну, собственно, поэтому OpenAI в том числеи двигается в эту сторону, и Google тоже

(38:44):
двигается в эту сторону, чтобы не потерятьсвою долю в поиске.
Потому что они, конечно, чувствуюточевидную угрозу.
Как вот недавно мем ходил по всемсоциальным сетям о том, что я думал,
что...
Искусственный интеллект будет мыть посудуи готовить еду, а я смогу заниматься
креативными задачами и что -топридумывать, а все оказывается наоборот.

(39:05):
Искусственный интеллект занимаетсякреативными задачами, а я мою посуду и
готовлю еду.
В OpenEye приводили статистику еще, что 3миллиона разработчиков используют для
программирования чат GPT, и это примерно10 % от всех разработчиков в мире, если
сюда еще посчитать, наверное, то, чтопоявится.

(39:26):
В Xcode то, что анонсировали на WDC какраз, что теперь будет вот та самая Neuron
KT Pla, которая локальная, что тоже,кстати, важная, и это будет ключевым,
наверное, преимуществом для корпоративноготоже сегмента, потому что вот Apple
настаивает на том, что ничего не покидает.
Контуру устройства вот в Xcode будетвстроен ассистент, который будет помогать

(39:48):
на Swift писать.
Ну и в GitHub, да, и в других ресурсахтоже есть.
ассистенты и люди, купая в этом, вразработке активно пользуются.
Так что программирование действительно,джуны не нужны.
Как просят никогда не говорить всепредставители education сервисов, джуны не
нужны будут, к сожалению, скоро.

(40:08):
Или нужны, Галина, как ты думаешь, джуныбудут нужны?
Я думаю, что без джунов сенером невырасти.
Это как в известном меме, когда отстудента просят опыт работы 8 лет.
в сфере.
Так же и здесь, но как же вырасти сенера,если он никогда не получен.
Я думаю, что всегда нужны те, кто хотятразвиваться, те, кто хотят расти, а потом

(40:34):
они будут становиться сенерами, и онибудут править чатом ГПТ, который пишет за
них код.
Все так.
Друзья, учите математику.
Вот Эппл показал этот ужасный кулькулятор,в котором ты можешь нарисовать интеграл, и
он сам его возьмет.
Вот не пользуйтесь, не пользуйтесь им,считайте ряды.
считаете диффуры, берите интегралысамостоятельно.
Это развивает мозги и пониманиематематики, а с этим ваши навыки и

(40:59):
зарплату.
Обязательно.
Это базовое знание.
Интегралы брать надо уметь.
Вот про интегралы.
Есть ли какие -то здесь ограничения сточки зрения вот в той сфере, в которой ты
занимаешься, данные, сети, все эти?
В чем сложность интеграции вот такихсистем в бизнес?
Насколько здесь хватает кадров, насколькоэти кадры квалифицированные?

(41:22):
Можешь про это чуть -чуть поговорить?
Да, про сложности.
Ну, первое, мы уже говорили про главнуюсложность.
Это, конечно, всегда железо, видеокарты.
Это то, на чем, собственно, должныработать и крутиться большие языковые
модели.
Про кадры – да.
И, собственно, мы всегда в поисках новыхклассных кадров, которые смогут продвинуть

(41:45):
это вперед.
И сейчас на рынке довольно большой спросна людей, которые умеют писать сервисы с
помощью чата GPT и других моделей.
И сейчас даже, насколько я знаю, ввакансиях появляются эти строчки о том,

(42:05):
что ты должен уметь ты писать, ты долженуметь знать, как подключаться к чату GPT
по API и прочее.
Как ты смотришь на такие вакансии?
Это нормально, что это вот такоепоявляется?
Как требованиям?
Мне кажется, это абсолютно нормально,закономерно, и это неизбежно.
Оно дальше продолжит развиваться, и ядумаю, что стоит просто признать, что

(42:30):
часть простой работы будет выполнятьчеловек с пяти или другие модели, любые
доступные.
И надо просто научиться с этим жить.
Ну здесь еще важно, что если ты попадаешьв коллектив, например, где такие
инструменты, ну, являются какой -то нормойи базовой штукой, и если ты не умеешь с
ними пользоваться, то все вокруг простобудут быстрее, чем ты работать, и это

(42:51):
будет для бизнеса проблемой.
Ну, я просто видел некоторое возмущениетам в социальных сетях, что люди прям
возмущались, что вот теперь, значит, этопишут в вакансиях.
Мне кажется, что это наоборот правильно,ну, потому что, чтобы ты просто понимал,
куда попадаешь, какой коллектив.
Это то же самое, как раньше, например, всеаналитики...
в Excel считали данные и циферки.

(43:12):
И потом стал развиваться, например, такойскилл, как использование SQL.
И когда аналитик, который до этого всюжизнь только в Excel, как данные перебира,
попадает в компанию, где все аналитикиобязательно порядке знают SQL, у него
случается слегка разрыв шаблона, и надосрочно подучиться, что -то сделать, чтобы

(43:33):
быть на одной волне.
Я думаю, что...
Это происходит с многими технологиями, этопросто какой -то новый шаг.
В общем, мы в точке всегда ждём тех, кто снами на одной волне, и кто хочет
разбираться в новых технологиях вместе снами.
Переходите, друзья, к Галине работать.
Ссылка в описании наверняка есть.
Кого нанимаешь, Галина, расскажи, ктонужен прямо сейчас?

(43:56):
Нужны как классические датасиентисты, так…
и промдинженеры, которые будут нампомогать делать новые кейсы с чатом GPT,
люди, которые заинтересованы в том, чтобысмотреть по сторонам на то, что происходит
с технологиями, с LLM, искать применение кэтим новым технологиям у нас, люди,

(44:17):
которые постоянно пытаются сами сделатькакие -то новые сервисы и посмотреть на
новые возможности LLM для того, чтобы…
тоже применять это у нас.
Ну, то есть это и доцентисты, ипромдинженеры, и разработчики, и бэкенд
-разработчики тоже нам нужны, чтобы этисервисы оборачивать во что -то.
У нас куча разных OKC.

(44:38):
А можешь сказать, вот, промдинженер, чтоон делает?
Промдинженер в классическом пониманииобщается с большой языковой моделью так,
чтобы она выдавала максимально точные итребуемые результаты.
А в пронте, когда пишешь промд, там жекаждое слово, в принципе.
Даже порядок слов, когда ты переставляешьслова, результат может оказаться

(44:58):
совершенно другой на выходе.
Поэтому умение написать качественный промдтак, чтобы получить максимально
качественный результат, это, я бы сказала,среди никакого искусства.
Причем иногда полезнее написать, например,промд на английском и попросить модель
вытечь результат на русском языке.
Там довольно много интересных нюансов.

(45:21):
Мне кажется, это очень класснаяспециальность.
Мне самой нравится периодически писатьпромты, смотришь, что из этого получается.
Ну, просто это то, как мы привыкли.
Ну, то есть там не несколько строчек иливот промты, которые бизнес используют, они
как -то там прям кардинально отличаются.
Просто как человек, который там писалпромты для генерации изображений, то есть
я могу сказать, что промт может быть прямреально очень длинный.

(45:41):
Значит, сделай мне фотографию в стилепленки, кодек 96, с выдержкой 50, ISO 200.
когда солнце в зените, вот на среднейполосе там такого -то градуса.
В общем, промп может быть реально оченьдлинным, а вот для бизнес задачи он есть
какие -то, в общем, метрики, которые можнопощупать.

(46:05):
Зачастую, когда мы задаем промпты, мызадаем еще кучу дополнительного контекста
для того, чтобы языковая модель моглаответить максимально точно.
Поэтому здесь еще искусство как -то этотконтекст выделить, и понятно, что промпты,
конечно же...
Это не пара строчек текста, потому что мыстараемся добавить много полезной

(46:28):
информации для того, чтобы получить навыходе максимально полезный ответ.
А если говорить про еще банковскую сферу,ну, мы с тобой какие -то понятные кейсы
упоминали про поддержку, про базы знаний,базы данных.
Что еще тут может прийти в голову?
Можем ли мы, не знаю, прогнозировать?
какие -то финансовые инструменты на базетехнологий GPT.

(46:52):
Можем ли мы прийти к моменту, где решениео кредитовании бизнеса принимает не
человек, а машина?
Насколько вообще близки мы к такомубудущему?
Или все равно человек должен будетконтролировать, принимать финальные
решения?
Я думаю, что зависит от риска аппетита изависит от задачи.

(47:13):
В каких -то задачах, я думаю, что можнообложить ВЛМК у разными эволюционными
дельм, плюс обложиться разнымиисточниками, ссылками на источники,
которые тоже у ВЛМК будут выдавать, и наэтом успокоиться и мониторить какие -то
верхние уровни в Уэометрике, а дальше онотак будет происходить само.
А в каких -то сложных кейсах, тамкомплайнс или кейсы, когда суммы кредита

(47:37):
или инвестиций достаточно чувствительны.
Я думаю, что все равно будет требоватьсячеловек хотя бы для того, чтобы зашитлять
какой -то пост -контроль.
Видел всякие эксперименты людей всоциальных сетях, где они с помощью
ChargePT в сделках участвовали, неявляются инвестиционной рекомендацией, не

(47:58):
делайте так.
Пытались деньги зарабатывать.
Ну что -то как -то дальше приколю вTwitter, это дело не пошло, пока никто
миллионером на трейдинге с ChargePT нестал.
Поэтому, видимо, еще придется немножкоподождать.
Я думаю, что мы опять же забываем обосновном назначении чата JPEG.
Это все -таки генерация чего -то.

(48:20):
Трейдинг с трейдингом вполне себесправляются классические модели машинного
обучения.
Здесь не обязательно использовать LLM -ку,а просто для того, чтобы использовать LLM
-ку.
Мне кажется, что вот есть такой термин«иикать».
Сейчас вот все вообще, все иикает, вездеLLM -ки.
Не знаю, вот у меня, я там пользуюсьтекстовым редактором Крафт, внутри у него

(48:42):
есть LLM -ка.
Вот Apple показал сейчас тоже на WDCобновление почты, и в ней есть нейронка,
которая фильтрует контент.
В общем, всё равно куда ни плю, мнекажется, в любом уже продукте будет что
-то на базе искусственного интеллекта.
Этот дань моды, такое уже было с разнымитехнологиями в нашей…

(49:03):
жизни с разными интерфейсными решениями внашей жизни.
Вот мы там с твоим коллегой вспоминалиистории в банках, которые появились, ну,
имею в виду сторисы, появились вообще вовсех приложениях.
Как вот человечество придумывало этотформат.
И сегодня откроешь там хоть беговоеприложение, хоть банковское, хоть еще что

(49:23):
-то, везде значит сторисы.
И это какая -то такая норма сегодня.
Поэтому с вот языковыми моделями, я незнаю, где -то они, наверное, найдут
применение и останутся, но кажется, что вцелом все поиграются, и там, где это будет
не нужно, надеюсь, что люди не будут этоиспользовать, потому что, ну, дошло там до
смешного, не знаю, у меня есть привожениедля погоды, Karat Weather, она называется,

(49:47):
и там, значит, тоже есть чат GPT, который,значит, должен тебе прогноз погоды
рассказывать.
И как бы, с одной стороны, прикольно, сдругой стороны, я лично пользовался этим
один раз, когда вот я увидел обновление,что ты, значит, можешь теперь с языковой
моделью пообщаться на тему погоды, задатькакие -то вопросы.
Я вот один раз это сделал, и дальше ябольше к этому никогда не обращался.

(50:10):
В общем, мне кажется, что это такая, ну,безумие.
Сейчас все пытаются это сделать, просточтобы сделать.
А зачем и как, в общем, пока не оченьпонятно для многих.
И мне кажется, что DabDabDC это тожепоказал, потому что даже говорили, что вот
Apple будет революционная презентация,где, значит, впервые покажут практическое

(50:30):
применение технологий на базеискусственного интеллекта.
Вот то, ради чего вот все что -то делали,не знали зачем, Apple покажет зачем.
И, кажется, что такое вот общее ощущение,что даже и у Apple не очень получилось,
потому что многие примеры, которые былипоказаны...
ну, достаточно наигранные и из какого -тотакого виртуального мира, где, о, да, ты

(50:51):
будешь автоматически отвечать на почту.
Ну, не будешь ты автоматически отвечать напочту.
Будешь всё равно ручками что -то писать.
Хотя переписывать письма, убирая оттудаматерные слова в адрес коллег, наверное,
многие из нас уже пользовались для этогоязыковыми моделями.
Напиши, пожалуйста, вежливо, что тыдумаешь про этих людей, почему они не

(51:13):
сделали то, что тебе нужно сделать.
Прогну огонь.
Переписывала письма в адрес коллег?
Так чтобы в адрес коллег не переписывала,но периодически...
Подрядчиков, подрядчиков.
Но периодически, да, периодически яговорю, что конкретно я хочу сказать
кратко, и прошу переписать письмо вежливоили многословно, или наоборот,

(51:37):
немногословно.
С этим он, правда, справляется на ура,надо признать.
А также, как он, например, справляется ссуммаризацией чего -то.
И как раз у Эплайя -то было, что он будеттебе делать саммари, твои почты, он будет
делать тебе саммари твоих сообщений и такдалее.
Это то, где Чаджи Пити справляется сосвоей задачей и где он привносит какую -то

(52:00):
ценность.
Поэтому, мне кажется, многие сейчас в тотже Zoom умеют сейчас делать саммари,
встречи, тебя присылать.
Я, кстати, очень жду, когда Zoom.
они недавно заявили сделать цифровогодоника, который будет от тебя ходить на
встречу.
Вообще, как только они сделают.
Мне кажется, нам жить всем станет гораздоприятнее.

(52:21):
Но насчет какого -то общего тренда, ядумаю, что он сохранится так или иначе.
ЧАД -GPT и в целом LLM, все эти технологии— это то, что поменяет мир.
Я тут недавно пересматривала фильм «Она».
И...
удивлялись, насколько близко мы подошли ктому миру, который был там показан.

(52:44):
Я думаю, что все стали это упоминать,когда Огнаи сделали недавно свою
презентацию, и там как раз был этотклассный голосовой помощник.
Действительно же, доказалось какой -тофантастикой, а сейчас мы очень близко к
этому.
И...
Мы просто постепенно к этому приближаемся.

(53:05):
Я думаю, что это не какой -тократковременный тренд.
Мы все равно останемся дальше общаться счатом GPT, будем видеть его применения.
Да, пока они не так успешны, этиприменения, как всем кажется, и все бы
хотели это видеть.
Но я думаю, что мы все равно до этогодойдем.

(53:26):
Ну, самое, наверное, главное впечатление,что это очень всё быстро развивается.
Мы с тобой здесь говорили, что, условно,год назад начали активно бизнес и люди
использовать технологии на базе GPT.
И, собственно, где мы уже сейчас?
Очень большой путь мы проделали.
И здесь же как?

(53:46):
Всё будет только ускоряться.
И момент перехода, условно, к сильному«и», он очень быстро может произойти.
потому что бац, и всё.
Вот.
Дальше он уже самообучаетсясамостоятельно, и, условно, там по
экспоненте всё просто улетает, и всё, ичеловек уже не нужен.
Поэтому за этим, конечно, суперинтересноследить, но для человечества, конечно, это

(54:09):
всё несёт экзистенциальную угрозу, даже нестолько с точки зрения того, что, как
показывают там в каких -то фильмах,«Терминаторы» или ещё что -то, но с точки
зрения просто вообще нашего развития каквида.
Вот мы интегралы вспоминали в калькулятореот Apple, да?
Ну, то есть люди перестанут словно изучатьматематику, перестанут, не знаю, сами

(54:30):
рисовать картинки.
В общем, не то чтобы мы прям каквитатупеем.
Нет, наверное, это нам не грозит.
Но все равно какие -то определенныеэффекты на наше общество, на нашу
культуру, на контент, это совершенно точноокажет.
Потому что в какой -то момент можетоказаться, что будут одни нейронные сети
делать контент.

(54:50):
а другие нейронные сети суммаризироватьэтот контент, третья нейронная сеть до нас
этот контент доносить, только то, что намв нем интересно.
В общем, короче, это изменит очень многиесферы, и банковские, и контент
-мейкерские, ну и просто какие -то нашибытовые вещи.
Так что к этому нужно быть просто готовым.
И все равно, в любом случае, осознаватьвсе эти риски.

(55:13):
И хотелось бы здесь какой -то публичнойдискуссии.
Пока, кстати, ее вот незаметно.
Как?
были, когда анонсировали «Чарджи 5 -4»,вроде было письмо, вроде как тоже от Элона
Маска, но так и непонятно, подтвердилосьоно или нет, что давайте какую -то
конференцию обсуждать, как мы это всебудем развивать.
В общем, о какой -то публичной дискуссиипока здесь не замечено.

(55:35):
Есть гонка, в которой участвуют крупныекомпании и, кстати, государства в том
числе, потому что для всех нас, длякаждого государства в общем наличие
собственного искусственного интеллектасильного.
будет являться такой же ключевойтехнологией, как, например, ядерная
атомная промышленность.
То есть не у всех стран есть, допустим,доступ к атомной энергетике, а тех стран,

(55:57):
у которых такой доступ есть, они в болеевыгодном положении.
Или выход в космос.
Тоже не все могут запускать ракеты ивыводить грузы.
Те, кто умеют, немножко на другойступеньке по сравнению с ними, кто не
умеет.
В общем, мы находимся в таком периоде,когда очень быстро развивается
исторический контекст.
За этим очень -очень интересно следить.
Это правда.

(56:18):
И, если честно, я пока еще не верю, что вближайшем будущем действительно у нас
случится этот переход искусственногоинтеллекта, когда человек станет не нужен
для обучения искусственного интеллекта.
Может, я слишком стармодна, но мнекажется, что это пока все -таки из области
фантастики.
Но ты прав, очень интересно за этимследить.

(56:40):
И то, что казалось невозможным 10 -15 летназад, вот оно, пожалуйста.
Я думаю, что те люди, которые сейчастолько родились, они будут жить совершенно
другом мире.
И так же, как сейчас нынешние дети ужепрекрасно знают там с очень маленького
возраста, как пользуются плачетами ителефонами.

(57:02):
Будущие дети, видимо, будут уже общаться сискусственным интеллектом и спокойно
решать какие -то задачи свою помощью.
А вот ты упоминала фильм «Her», а для тебяглавный интерфейс взаимодействия с
«Чарджей Пити» он какой?
Это текстовый или всё -таки ты голосомобщаешься?
Текстовый?
Я как человек, который не любит аудио и нелюбит голосовые сообщения и не любит

(57:27):
надиктовывать.
Я за текст.
Прикольно.
Но, кстати, я вот английским языкомзанимаюсь с «Чарджей Пити».
Вполне себе достаточно удобная штука.
И…
Тоже привожу пример, вот недавно какэкскурсоводы его использовал.
Ещё он тогда не умел, ну, он и сейчас ещёне умеет.
ChargePT 4 .0 ещё не раскатили с камеройполноценной.

(57:49):
Ну, достаточно тоже прикольно, что можноидти голосом там описывать, что ты видишь,
и получать какой -то фидбэк об архитектуревокруг тебя, о тех там зданиях, которые ты
видишь.
В принципе, это работает прям здорово,прям реально работает.
Единственное, что факт чекать нужно,потому что галлюцинация языковых
моделей...
как бы вещь, которая существует.

(58:10):
Кстати, как вы боретесь с этим, еслисталкиваетесь с этим, ну, то есть с точки
зрения бизнеса?
Если тебе что -то языковая модель не товыдала, как такие результаты
отфильтровывают?
Ой, это отдельная, конечно, боль, этоотдельная тема, потому что ну ладно тебе
языковая модель сказала неправильный годпостройки какого -нибудь здания, рядом с

(58:31):
которым ты проходишь.
Ну и чёрт с ним, в общем -то.
А когда тебе помощник...
в интерфейсе банка, например, выдалнеправильную информацию о том, когда тебе
налоги платить или сколько тебе налоговплатить.
Да, могут быть проблемы.
Или сказал, что он отправил платеж, а насамом деле не отправил платеж, потому что
более ранние версии, например, языковыхмоделей, они не понимали разницу, и они

(58:55):
могли сказать, я уже там отправил что -то,хотя они, конечно же, им делали ничего.
Это, ну, прям сильно, во -первых, рискидля нас, во -вторых, это может очень
неприятно ударить по нашим клиентам.
Поэтому, во -первых, мы используем целыйансамбль валидационных моделей, которые
друг за другом проверяют, насколько все-таки правильно была выдана информация.

(59:15):
Плюс мы используем экспертизу тех людей,которые точно знают, правильно или
неправильно, и достаточно часто онизаходят и проверяют, что нас отвечают, и
закрываем модель нашим клиентам.
Мы на основе этой экспертизы дальшедокручиваем модель.
А следующее — это возможность проверитьсамому посылки.

(59:36):
Ну, то есть мне кажется, это оченьприкольная история, которая к кому -то
недавно появилась.
Да, мы даем ответ.
Например, мы даем ответ на какой -товопрос про бухгалтерию.
И тут же даем ссылку на тот источник, скоторым мы это взяли, чтобы человек мог
сам пойти и проверить.
И третье, ну, самое банальное, тыговоришь, ну, как, собственно, в самом

(59:58):
интерфейсе чата GPT это написано, что стобой общается сейчас робот.
И если тебе нужно принять какое -токритически важное решение, проверь 10 раз,
потому что сам знаешь, робота могошибаться.
Знаешь, мне кажется, это тоже причина,почему вот Apple, они так дистанцировались
тоже немножко от этого, то есть что когдаSiri прям идет и спрашивает, отвечает GPT,
в этот момент снимают в себя тожеответственность, потому что там одно дело,

(01:00:22):
какая -то локальная модель, которая наустройстве своими данными работает, другое
дело, когда ты что -то спрашиваешь, и онавыходит в интернет.
И здесь Apple довольно ловко тоже себя таккак бы… Если что, это chat .gp, идите
туда.
Идите, спрашивайте.
А chat .gp говорит, извините, мы васпредупреждали, что, если что, ответы могут

(01:00:43):
быть неточными.
Всё так, да.
Поставьте лайк или дизлайк ответу, которыйвы получили.
Да, поставьте дизлайк, объясните, почемувам не понравилось.
Ладно, я думаю, на этом будем заканчивать.
Не бойтесь пользоваться языковымимоделями.
И мне кажется, что это важный инструмент внашей жизни.
Чем быстрее вы их освоите, тем в качествене будете работать, не важно, чем вы
занимаетесь на самом деле.

(01:01:04):
Подкастами, большими данными, вы делаетебанк или что -то еще другое.
Мне кажется, что практически в любойсегодня сфере можно найти применение
языковым моделям.
Главное, чуть -чуть проявить фантазию,потому что это, ну, еще один инструмент в
ваших руках.
И...
Сегодня рынок труда устроен так, что те,кто владеют этими инструментами, они будут

(01:01:27):
конкретно способны по сравнению с теми,кто не владеет.
Так что не бойтесь, пользоваться ими, иследить за новостями, в том числе в нашем
подкасте.
Галина, спасибо большое.
Было интересно пообщаться.
Спасибо вам.
Да, спасибо, что это залетело.
Приходите к Галине работать в bank .com,если что, большими данными заниматься,

(01:01:47):
языковыми моделями.
Много наверняка интересных всяких задач.
Ссылка здесь в описании.
На этом сегодня будем заканчивать.
Спасибо, что послушали выпуск.
Увидимся, услышимся.
Пока -пока.
Пока.