Estudo de caso - Aulas de inglês a partir do jogo na sua tela

O Looté é um app iOS para gamers brasileiros que estão aprendendo inglês. Ele lê a tela do jogo, explica cada fala no contexto da cena e transforma o que você salva em flashcards com repetição espaçada.

Cliente
Looté
Ano
Serviço
Desenvolvimento iOS, IA aplicada
Aba Capturar do Looté: uma cena de diálogo de fantasia com cada frase reconhecida contornada

Visão geral

Inglês a partir da tela do jogo que você já está jogando

O Looté é um app iOS para gamers brasileiros que estão aprendendo inglês. Você fotografa ou compartilha uma tela do jogo, o Vision encontra o texto e o agrupa em frases, e um toque numa frase ou numa palavra explica o que ela quer dizer naquela cena. Ele está na App Store.

O que você salva vira um flashcard que guarda o print de onde veio, e a aba Revisar agenda esses cards com SM-2. O app é escrito em português, com localizações em inglês e espanhol, e quem fala espanhol recebe as explicações em espanhol.

  • OCR com Vision
  • Tradução do iOS
  • Modelo no aparelho
  • Nuvem da Apple
  • Flashcards com SM-2
  • Português, inglês, espanhol

Como funciona

Cada resposta mostra quem a escreveu

No Automático, o modo padrão, o app escolhe quem responde cada tarefa. Na folha do toque e no Contexto da cena, a cor de cada card indica a fonte, e o onboarding ensina as cores antes da primeira captura. A gravação mostra o toque numa frase, a nuvem da Apple preenchendo o card e o toque numa das palavras.
Gravação de tela: um toque em “I found a weathered map.” abre uma folha, a nuvem da Apple preenche um card roxo com a explicação e um toque em “weathered” abre a explicação da palavra

Toque, explicação, palavra

Card verde

Tradução do iOS

Com os idiomas inglês e português instalados, o framework Translation traduz todas as frases assim que o print é capturado, então o toque já abre com a tradução pronta.

Card branco

Modelo no aparelho

Os Foundation Models da Apple explicam o registro, o sentido na cena, um exemplo e uma nota. Funciona sem internet, mas leva alguns segundos, e é o que o plano grátis usa nos toques e nos resumos de cena.

Card roxo

Nuvem da Apple

O Private Cloud Compute escreve o resumo da sessão, porque uma fila inteira de prints não cabe no contexto do modelo no aparelho. Para quem é Pro, ele também cuida dos resumos de cena e dos toques. No limite diário, tudo passa sozinho para o modelo no aparelho.

Compartilhar

Uma caixa de entrada para prints

Uma extensão de compartilhamento recebe até 20 imagens pela folha de compartilhar de qualquer app e as guarda numa caixa de entrada, sem abrir o Looté. Depois o app percorre essas imagens como uma fila, um print por vez.

Revisar

Repetição espaçada

Salvar uma frase ou uma palavra cria um card com o print. A aba Revisar agenda os cards com SM-2, e a Progresso mostra a sequência de dias, as revisões por dia e os cards aprendidos e maduros.

Assinatura

Looté Pro

O Pro, vendido pelo RevenueCat, libera a fila de dois ou mais prints com o resumo da sessão, o modo Completo, em que a nuvem da Apple responde tudo, e mais de 100 cards salvos.

Produto

Do print ao deck

Capturas do app rodando, em português, o idioma de origem dele. Uma mesma frase aparece duas vezes: uma explicada pela nuvem da Apple, outra pelo modelo no aparelho.
Aba Capturar sobre uma cena de exemplo de diálogo de fantasia, com cada frase reconhecida contornada e duas palavras destacadas

Capturar

Folha da frase “I found a weathered map.” com o card da nuvem da Apple: tradução, registro, a cena, um exemplo e uma nota cultural

Nuvem da Apple

A mesma frase explicada pelo modelo no aparelho, com tradução, registro e o sentido na cena

No aparelho

Folha da palavra “weathered” com a frase de origem e a explicação do modelo no aparelho

Palavra

Folha do Contexto da cena com palavras que talvez você não conheça, o que está acontecendo na cena e uma sugestão

Contexto da cena

O terceiro de cinco prints numa fila: uma barraca de feira com nomes de itens, preços e descrições contornados

Fila, 3 de 5

Resumo da sessão de cinco prints: o que aconteceu na sessão e depois as falas importantes com suas traduções

Resumo da sessão

Card de revisão de “I found a weathered map.” com a resposta à mostra acima dos botões De novo, Difícil, Bom e Fácil

Revisar

Aba Progresso com sequência de um dia, gráfico de revisões por dia e a contagem de cards aprendidos e maduros

Progresso

Passo do onboarding que apresenta o Automático com os cards verde, roxo e branco

Conheça o Automático

Stack e prova

Frameworks da Apple e uma dependência

Tudo, menos a assinatura, vem da Apple. O Vision lê o texto, o Translation e os Foundation Models respondem, e o SwiftData guarda os decks. O RevenueCat é a única dependência de terceiros.
Motores
3

Tradução do iOS, modelo no aparelho e nuvem da Apple

Compartilhar
20

Imagens por envio, de qualquer app, salvas na caixa de entrada

Idiomas
3

Interface em português, inglês e espanhol

Plano grátis
100

Cards salvos antes de o Pro ser necessário

Tecnologias

  • Swift
  • SwiftUI
  • SwiftData
  • Vision
  • Translation
  • Foundation Models
  • Private Cloud Compute
  • Share Extension
  • App Groups
  • AVSpeechSynthesizer
  • RevenueCat
  • Swift Testing

O reconhecimento de texto do Vision lê cada print, e um agrupador puro, com testes unitários, transforma as linhas em frases. O SwiftData guarda jogos, cards e o histórico de revisões. A extensão de compartilhamento não divide código com o app, só uma pasta de App Group. O Swift Testing cobre o agendador SM-2, o agrupador e o OCR de todas as cenas de exemplo.

Mais estudos de caso

Um leitor de cardápio que escolhe o que pedir, todo no aparelho

Um app de iOS que lê o cardápio de um restaurante a partir de uma foto, cruza com o que você registrou hoje no Apple Saúde e ordena os pratos. O modelo no aparelho lê; o Swift faz as contas.

Ler mais

Seu gosto musical entrega você.

Quem Botou Essa? transforma a playlist da call em um fichário de suspeitos. Um party game musical em tempo real, na web e em um cliente nativo SwiftUI, conectados à mesma sala.

Ler mais

Conte sobre o seu projeto

Onde estamos

  • São Paulo
    São Paulo, SP
    Brasil