ШІ на пристрої чи в хмарі в iOS: Foundation Models проти OpenAI API

Запитайте себе, де насправді живе інтелект вашого застосунку. Це питання важливіше за «а чи не додати нам ШІ?», і саме воно змінює те, як ви проєктуєте функцію в iOS. Варто в пет-проєкті замінити хмарний виклик на фреймворк Apple Foundation Models, що працює на пристрої, і все стає зрозуміло: ви ніколи не обирали між двома моделями, ви обирали між двома місцями, де запускати одну.

Місце важливіше за бенчмарки

Більшість порівнянь сперечаються про бали моделей. Для застосунку на iPhone корисніше інше питання: де відбувається інференс — на пристрої користувача чи на чужому сервері.

Це одне рішення просочується в усе, що ви випускаєте: обіцянки щодо приватності, затримку, витрати на роботу, поведінку без мережі і навіть питання, які поставить рев'ю App Store. Спершу оберіть місце, і багато інших рішень перестануть бути предметом суперечок.

На пристрої з Foundation Models

Фреймворк Apple дає мовну модель, яка працює локально на Apple Silicon і використовує Neural Engine. Жодних мережевих запитів, жодного API-ключа, який треба берегти, і жодного рахунку за токени наприкінці місяця.

Мінімальна сесія виглядає так:

import FoundationModels

// Create a session with the on-device model
let session = LanguageModelSession()

// Ask a simple question — runs entirely on-device
let response = try await session.respond(
    to: "Summarize this note in one sentence: \(userNote)"
)

print(response.content)

Що ви отримуєте натомість за меншу модель:

• Немає мережевого запиту туди й назад, тож усе працює і в літаку, і в тунелі метро.
• Ніщо не зростає разом із кількістю користувачів, бо ви не платите провайдеру за кожен виклик.
• Текст користувача залишається на телефоні, а для застосунків про здоров'я, щоденників і фінансів це дуже важливо.
• Він напряму вбудовується в async/await і SwiftUI, тож відчувається як будь-який інший системний фреймворк.

Платити доводиться розміром. Ця модель менша й слабша за хмарні моделі класу GPT-4. Вона чудово впорується з підсумовуванням, класифікацією та нескладними міркуваннями. А от довга багатокрокова генерація і все, що потребує поведінки агента, їй даються погано, тож такі функції на ній не будуйте.

Хмара з OpenAI API

Інший бік вибору — міркування рівня передових моделей, за які ви платите залежністю від мережі. Тепер вашій функції потрібні з'єднання, ключ і рахунок.

Ось такий самий виклик, тільки через HTTP:

// Basic async/await network call to OpenAI's API
func fetchCompletion(prompt: String) async throws -> String {
    var request = URLRequest(url: URL(string: "https://api.openai.com/v1/chat/completions")!)
    request.httpMethod = "POST"
    request.setValue("Bearer \(apiKey)", forHTTPHeaderField: "Authorization")
    request.setValue("application/json", forHTTPHeaderField: "Content-Type")

    let body: [String: Any] = [
        "model": "gpt-4o",
        "messages": [["role": "user", "content": prompt]]
    ]
    request.httpBody = try JSONSerialization.data(withJSONObject: body)

    let (data, _) = try await URLSession.shared.data(for: request)
    // Parse response into your own model here
    return String(data: data, encoding: .utf8) ?? ""
}

Я б обрав цей шлях, коли якість відповіді і є продуктом. Скажімо, ви робите асистента для досліджень: міркувань хостингової моделі маленькій локальній просто не повторити, тож витрати на мережу виправдані.

Використовуйте обидва

У продакшені обирати щось одне майже ніколи не доводиться. Розподіліть роботу за тим, що потрібно кожній задачі, і тримайте це рішення подалі від представлень, наприклад сховайте його за шаром MVVM, щоб view model просила результат і не думала, звідки він узявся.

• На пристрої: автодоповнення, теги, швидкі підсумки та запасний варіант офлайн.
• У хмару: глибока генерація довгих текстів і все, що потребує великого контексту.

Така схема тримає застосунок швидким і дешевим приблизно у 80% взаємодій, а за хмарний виклик ви платите лише тоді, коли задача цього варта. Вона добре поєднується і зі SwiftData: кешуйте результати локально, і повторні запити взагалі не ходитимуть у мережу.

Як швидко вирішити

• Потрібна робота офлайн або сувора приватність даних: беріть Foundation Models.
• Потрібні міркування найвищого рівня або величезне вікно контексту: беріть OpenAI API.
• Хочете масштабуватися й не зруйнувати бюджет: робіть гібрид, а шлях на пристрої зробіть основним.
• Готуєтеся до питання на співбесіді з iOS про архітектуру ШІ: поясніть обидва варіанти і коли обрали б кожен, бо саме такої відповіді чекають інтерв'юери.

Жоден варіант не перемагає беззастережно. Foundation Models тепер розумний вибір за замовчуванням для швидких, приватних і дешевих функцій, а важка робота й далі йде через хостинговий API. У 2026 році добра архітектура iOS — це не вибір сторони. Це точне розуміння того, яка робота заслуговує на мережевий запит, а яка ні.