Китайский институт искусственного интеллекта при China Telecom сообщил о создании и успешном обучении модели с 100 миллиардами параметров под названием TeleChat2-115B. Важно отметить, что процесс обучения проходил исключительно с использованием национальных вычислительных мощностей, что стало возможным благодаря оборудованию, произведённому внутри страны. Это достижение подчёркивает, что китайские компании, несмотря на санкции и ограниченный доступ к западным технологиям, продолжают успешно развивать свои возможности в области искусственного интеллекта.

Модель TeleChat2-115B
Эта модель была представлена на платформе GitHub 20 сентября. Обучение проводилось на 10 триллионах токенов, включающих китайский и английский тексты. Основной особенностью проекта стало использование исключительно китайской вычислительной инфраструктуры, что позволило обойтись без зарубежного оборудования.

Технологическая база
Для обучения использовались серверы Huawei Ascend Atlas 800T A2 на базе процессоров Kunpeng 920, которые работают на архитектуре Arm 8.2 с 7-нанометровым техпроцессом. Несмотря на то что эта инфраструктура уступает западным аналогам по мощности, она показала достаточную эффективность для обучения модели с 100 миллиардами параметров.

Сравнение с ведущими моделями
Хотя TeleChat2-115B уступает в объёме параметров таким крупным моделям, как Llama 2 с более чем 400 миллиардами параметров или GPT-4 от OpenAI, содержащей около 200 миллиардов параметров, она демонстрирует высокую производительность. Модель успешно справляется с задачами высокой сложности, что подтверждает качество китайской технологии, даже при отсутствии новейших зарубежных вычислительных средств.

Стратегия Китая в условиях санкций
Несмотря на ограничения в доступе к западным технологиям, Китай продолжает развивать собственные решения в сфере искусственного интеллекта. China Telecom, одна из крупнейших телекоммуникационных компаний с доходом свыше 70 миллиардов долларов, использует свои ресурсы и мощности для создания новых технологий, что позволяет стране оставаться конкурентоспособной даже в условиях санкционного давления.