Выросший иммигрантом, Сирил Горлла сам научил себя кодить - и занимался этим, как одержимый.
«Я завалил курс программирования в муниципальном колледже моей матери в 11 лет, на фоне периодического отключения бытовых коммуникаций», - рассказал он.
В старших классах Горлла узнал об искусственном интеллекте и настолько увлекся идеей обучения собственных моделей ИИ, что разобрал свой ноутбук, чтобы модернизировать внутреннее охлаждение. Эта работа привела к стажировке в Intel во время второго года обучения в колледже, где Горлла изучал оптимизацию и интерпретируемость моделей ИИ.
Студенческие годы Горллы совпали с бумом ИИ - бумом, в результате которого такие компании, как OpenAI, собрали миллиарды долларов на свои ИИ-технологии. Горлла верил, что ИИ способен изменить целые отрасли. Но он также считал, что работа по обеспечению безопасности отходит на второй план по сравнению с новыми блестящими продуктами.
«Я чувствовал, что необходимо фундаментальное изменение в том, как мы понимаем и обучаем ИИ», - сказал он. «Отсутствие уверенности и доверия к результатам работы моделей является существенным препятствием для внедрения в таких отраслях, как здравоохранение и финансы, где ИИ может принести наибольшую пользу».
Поэтому вместе с Тревором Таттлом, с которым он познакомился еще в университете, Горлла бросил аспирантуру, чтобы основать компанию CTGT, призванную помочь организациям более продуманно внедрять ИИ.
«Мои родители считают, что я учусь в школе», - говорит он. «Для них это может стать шоком».
CTGT работает с компаниями, выявляя необъективные результаты и галлюцинации в моделях, и пытается устранить их первопричину.
Полностью исключить ошибки из модели невозможно. Но Горлла утверждает, что подход CTGT к аудиту позволяет компаниям смягчить их последствия.
«Мы раскрываем внутреннее понимание концепций в модели», - объясняет он. «В то время как модель, подсказывающая пользователю, что нужно добавить клей в рецепт, может показаться юмористической, ответ, рекомендующий конкурентов, когда клиент просит сравнить продукты, не так уж тривиален. Недопустимо, чтобы пациенту предоставлялась информация из клинического исследования, которая устарела, или чтобы кредитное решение принималось на основе галлюцинаций».
Недавний опрос, проведенный компанией Cnvrg, показал, что предприятия, использующие приложения с искусственным интеллектом, в первую очередь беспокоятся о надежности. В отдельном исследовании, проведенном компанией Riskonnect, поставщиком программного обеспечения для управления рисками, более половины руководителей заявили, что они обеспокоены тем, что сотрудники принимают решения на основе неточной информации, полученной от инструментов искусственного интеллекта.
Идея специальной платформы для оценки принятия решений с помощью ИИ-модели не нова. TruEra и Patronus AI входят в число стартапов, разрабатывающих инструменты для интерпретации поведения моделей, а также Google и Microsoft.
Но Горлла утверждает, что методы CTGT более эффективны - отчасти потому, что они не зависят от обучения «судейского» ИИ для мониторинга моделей, находящихся в производстве.
«Наша математически гарантированная интерпретируемость отличается от современных методов, которые неэффективны и обучают сотни других моделей, чтобы получить представление о модели», - сказал он. «По мере того как компании все больше осознают стоимость вычислений, а корпоративный ИИ переходит от демонстраций к предоставлению реальных преимуществ, наша ценность заключается в предоставлении компаниям возможности строгого тестирования безопасности передового ИИ без обучения дополнительных моделей или использования других моделей в качестве судей».
Чтобы развеять опасения потенциальных клиентов по поводу утечки данных, CTGT предлагает локальный вариант в дополнение к управляемому плану. За оба варианта взимается одинаковая годовая плата.
«Мы не имеем доступа к данным клиентов, что дает им полный контроль над тем, как и где они используются», - говорит Горлла.
CTGT, выпускник акселератора Character Labs, пользуется поддержкой бывших партнеров GV Джейка Кнаппа и Джона Зерацки (соучредителей Character VC), Марка Кьюбана и соучредителя Zapier Майка Кнупа.
«ИИ, который не может объяснить свои рассуждения, недостаточно интеллектуален для многих областей, где действуют сложные правила и требования», - говорится в заявлении Кьюбана. «Я инвестировал в CTGT, потому что она решает эту проблему. Что еще более важно, мы видим результаты в нашем собственном использовании ИИ».
Несмотря на раннюю стадию развития, у CTGT уже есть несколько клиентов, в том числе три неназванных бренда из списка Fortune 10. Горлла говорит, что CTGT работала с одной из этих компаний, чтобы минимизировать предвзятость в алгоритме распознавания лиц.
«Мы обнаружили, что модель слишком сильно фокусируется на волосах и одежде при составлении прогнозов», - говорит он. «Наша платформа позволила специалистам получить немедленные выводы без догадок и траты времени на традиционные методы интерпретации».
В ближайшие месяцы CTGT сосредоточится на формировании команды инженеров (на данный момент в нее входят только Горлла и Таттл) и доработке своей платформы.
Если CTGT удастся закрепиться на растущем рынке интерпретируемости ИИ, это может оказаться очень прибыльным делом. По прогнозам аналитической компании Markets and Markets, к 2028 году стоимость сектора «объяснимого ИИ» может составить 16,2 миллиарда долларов.
«Размер модели значительно опережает закон Мура и прогресс в чипах для обучения ИИ», - говорит Горлла. «Размер модели намного превосходит закон Мура и достижения в области обучающих чипов для искусственного интеллекта», — сказал Горлла. «Это означает, что нам необходимо сосредоточиться на фундаментальном понимании ИИ, чтобы справиться как с неэффективным, так и со все более сложным характером модельных решений».
Оригинал
Уникальность
