Провідні розробники штучного інтелекту хочуть, щоб до 2028 року смартфони могли запускати локальні ШІ-моделі зі щонайменше 100 млрд параметрів. Про такі запити до Qualcomm розповів генеральний директор компанії Крістіано Амон у подкасті Sources з Алексом Гітом.
Назви компаній Амон не розкрив. За його словами, локальні моделі стануть основою для ШІ-агентів, які розумітимуть особистий контекст користувача, працюватимуть із встановленими застосунками та самостійно виконуватимуть доручення.
Керівник Qualcomm вважає, що такі можливості можуть спричинити новий цикл масового оновлення смартфонів. Він порівняв нинішній етап із появою перших iPhone: тоді майбутнє платформи визначили сторонні застосунки, а тепер подібним чином взаємодію зі смартфоном можуть змінити ШІ-агенти.
Прогноз виглядає амбітно навіть на тлі найновіших мобільних процесорів. Представлений у вересні Snapdragon 8 Elite Extreme Gen 6 підтримує локальні моделі Mixture of Experts із понад 30 млрд параметрів. За два роки Qualcomm та виробникам смартфонів доведеться суттєво збільшити обчислювальну потужність і пропускну здатність пам'яті, не перетворивши пристрої на компактні обігрівачі.
Є лише один дорогий нюанс: для локальної роботи моделі на 100 млрд параметрів смартфону знадобиться величезний обсяг оперативної пам'яті. Навіть після агресивного 4-бітного стиснення самі ваги моделі займатимуть близько 50 ГБ – без урахування пам'яті для операційної системи, контексту та обчислень. Водночас попит ШІ-компаній уже спричинив дефіцит і подорожчання пам'яті. Тому смартфони, здатні виконати їхнє нове побажання, ризикують коштувати дуже дорого.
Амон також очікує появи нових форматів ШІ-пристроїв – навушників із камерами, кулонів, значків та інших аксесуарів. Найбільші перспективи він бачить у розумних окулярах, оскільки вони дають асистенту доступ до того, що користувач бачить і чує. Водночас смартфони, на його думку, нікуди не зникнуть і залишаться центром персональної ШІ-системи.
Одним із таких пристроїв може стати смартфон OpenAI без традиційної моделі взаємодії із застосунками. Компанія розробляє його разом із партнерами, серед яких згадувалася Qualcomm, а масове виробництво очікується у 2027–2028 роках.
Читайте також:
Huawei отримала ліцензію на патенти Qualcomm для нової технології виробництва чипів
Qualcomm почала офіційно підтримувати Linux на Snapdragon X2 – поки лише для розробників