Ну что, пришло время подводить итоги! Что интересного приключилось со мной и с нашей компанией в этом году?

Цельс жив!

Компании в этом году исполнилось 7 лет. Каждый год нам кто-то предрекает погибель - от бигтеха, от конкурентов, от состояния экономики и много чего ещё. А мы ещё живы! Врать не буду - год вышел непростой, отчаянно бились за место под солнцем, где-то успешно, где-то не очень. Под конец пришла приятная новость - завершили год на первом месте в лидерборде Эксперимента по клинической оценке по всем 2D-направлениям - маммография, рентген ОГК, флюорография. По сути это для нас главная бизнес-метрика, от неё зависит в том числе количество исследований, которое будет маршрутизировано на наши ИИ-сервисы.

Цельс

Интересно, что успех компании сейчас в равной степени зависит от всех команд. ML должен в условиях очень ограниченных ресурсов оставаться в топе по метрикам, бэкенд должен поддерживать стабильность и низкий процент ошибок, проджекты и сейлы должны выгрызать новые интеграции и оплату за техническое сопровождение. Это порождает очень нетривиальную задачку распределения ресурсов компании между этими функциональными зонами. В этом году круто получилось усилить 2D-команду, к нам пришли классные ребята.

Большая часть моего личного времени ушла на обсуждение и старт новых проектов - медицинских и не только. Но и про внутрянку старался не забывать, о кое-каких хайлайтах расскажу ниже.

Я снова никуда не ушёл

Второй год подряд меня почему-то достаточно активно зовут на интересные позиции в компании разных размеров. А я продолжаю отказываться. Почему? В прошлом году я писал пост на эту тему, в принципе все плюсы и минусы остались актуальными. Есть мнение, что я боюсь выйти из зоны комфорта. Может быть, может быть… Но это прям комфорт плюс!

Варим МЛ не набрал 3к подписчиков

Не то чтобы я активно искал подписчиков, единственный эксперимент на эту тему в этом году был связан с участием в папке с другими каналами. Но я его решил не повторять, действительно не очень хочется рекомендовать то, в чём не уверен. Так что год завершаем на 2940 подписчиках. Канал я всё ещё никак не монетизирую и не планирую - ну кроме рекламы SouthHub за бесплатные билетики… Уж очень прикольное мероприятие, поэтому мне не стрёмно. Ещё прошу прощения, если я вам не ответил на ваше сообщение о каком-то сотрудничестве - иногда теряются сообщения, забываю. Не стесняйтесь писать ещё раз, пожалуйста!

Несколько интересных выступлений

Год начался с подведения итогов по МЛ в медицине на Дата-Ёлке, люблю это дело, в январе повторим. В остальном сначала показалось, что год выдался не очень активным на выступления, но на самом деле, если повспоминать, то список получается достаточно объёмный - про внедрение LLM на ИТМ, про буст метрик DL-моделей на IML, про MLOps в поездах и грузовиках на митапе Селектела, про новинки в ИИ в медицине на Femtech Force, про ИИ в медицине на закрытом эвенте Яндекса, про скейлинг количества классов на митапе Positive Technologies, про приручение хаоса на панельной дискуссии #безвотэтоговсего. Ну и, конечно, организовали очередные Ужасы Медицинских Данных!

Пет-проекты

В этом году с помощью ИИ-инструментов запилил сразу ряд мини-проектиков:

  • Алерт-менеджер на базе LLM - ловит алерты из Графаны, группирует их, пытается определить критичность и причину, постит это всё в Маттермост
  • Анализатор логов - берёт логи из ELK, статистику из БД, метрики из Прометеуса и на основе всего этого строит графики по времени, которое затрачивается на разные этапы, а также анализирует загрузку машин в облаке - можно ли что-то подрезать
  • Денежный калькулятор - считает, сколько денег затрачивается на каждый продукт, и сколько каждый продукт денег зарабатывает. Автоматом подхватывает данные из БД и выгрузок биллинга Яндекс-облака
  • Сайт Варим МЛ
  • Hookah Advisor - так и не доделал пока, времени нет… Приложение, которое должно рекомендовать кальянные забивки по запросам на естественном языке.

Оптимизация облака

Много внимания в этом году уделил срезанию костов в облаке:

  • С помощью ChatGPT и упомянутого выше анализатора логов анализировал биллинги, в итоге перевели почти все бакеты из горячего в холодное хранилище, нашли неиспользуемую ГПУ-тачку, подрезали ресурсы на ряде машин.
  • Реализовали пайплайны по сэмплингу данных. Данных за всё время работы накопилось очень-очень много, и у нас нет ресурсов ставить какие-то безумные self-supervised претрейны, поэтому решили умным образом сэмплить данные с потока, а остальное дропать. Реализовано через Airflow и настройки жизненного цикла бакетов.

Как итог - снизили рост расходов на облако и даже сократили наши траты на 20-25%.

Проекты в коммерческих клиниках и за границей

Этот год был примечателен интеграциями в коммерческом сегменте. Он, конечно, меньше по объёму, чем государственный, но там есть одна важная особенность - ваши продукты будут покупать, только если за их использованием стоит чёткая экономика. Жёсткое тестирование, понятный сценарий применения, прозрачная экономия для клиник за счёт использования ИИ. В этих проектах особенно интересно участвовать, один из последних примеров - интеграция в Будь Здоров.

Иностранные проекты у нас были и до этого, но многие из них застревали на этапе пилота. В этом году случился прям полноценный продакшн в Пакистане, с локальным деплоем. В рамках этого проекта уже случилось несколько любопытных вещей:

  • Поигрался с защитой моделек от похищения, решение с шифрованием весов даже в каком-то виде там работает.
  • Выяснилось, что в Пакистане есть очень популярная патология, которая практически отсутствует в России, поэтому наша модель её не выявляет. Если не ошибаюсь, дело в каких-то месторождениях асбеста. Нужно будет придумывать, как её оперативно и недорого добавить.

Путешествия

В этом году у нас случилось два очень классных путешествия. Первое - в Испанию и Португалию, особенно понравилась Страна Басков - Сан-Себастьян и Бильбао. Мега-красиво, футбольно, вкусно. Второе, самое легендарное - в Аргентину, с юга на север. Да, 30 часов дороги в одну сторону, но этого того стоит!

Развиваем Shape Up

Продолжаем внедрять и развивать Shape Up, перевели верхнеуровневое планирование и трекинг в Basecamp, перед каждым циклом шарим на общее обсуждение стратегию на следующий цикл. Конечно, у нас в итоге работает не чистый Shape Up из книги, а видоизменённая версия, но нам нравится. Особенно кулдауны, которые удивили многих коллег из бигтеха на митапе #безвотэтоговсего =)

Благодарности

Каждый год сейчас - тяжёлый. Тяжёлый экономически, тяжёлый морально. У меня периодически возникают в голове сомнения - а не нужно ли всё-таки было снова уехать и начать где-то строить жизнь заново. Поэтому я хочу сказать спасибо всем людям, благодаря которым я всё ещё радуюсь жизни и каждому новому дню:

  • Своим коллегам - я вас очень люблю, и спасибо, что вы терпите некоторые мои причуды. Отдельное спасибо Антону Голубеву - без тебя я бы в этом году не справился
  • Своим партнёрам по бизнесу - даже если в чём-то у нас расходятся взгляды, спасибо, что уважаете моё мнение и мои границы
  • Моим близким людям - Жене, Майе, родителям, всей семье, друзьям. За поддержку и за то, что вы рядом!
  • И, конечно, спасибо вам - моим читателям. Без вас вся эта деятельность не имела бы смысла.

С наступающим Новым годом - моим любимым праздником, который всегда дарит надежду на лучшее!