AIProxyServer - Úvod

AIProxyServer je lokálne proxy, ktoré sprístupňuje jedno API kompatibilné s OpenAI pre jedenásť hlavných cloudových poskytovateľov AI. Vaše ostatné aplikácie sa pripájajú k http://localhost, zatiaľ čo AIProxyServer drží API kľúče, rotuje požiadavky k poskytovateľom a prekladá protokol každého z nich do formátu OpenAI, ktorý už poznáte.

AIProxyServer

AIProxyServer

AIProxyServer - Main Screen

AIProxyServer - Main Screen

Prečo AIProxyServer?

  • Jeden trezor, všetci poskytovatelia — Uložte svoje API kľúče pre ChatGPT, Claude, Gemini, Grok a ďalšie raz. Každá pripojená aplikácia ich používa, bez toho aby kedy videla tajné hodnoty.
  • Priateľské voči App Store — Mobilné a tabletové aplikácie distribuované cez obchody nemôžu obsahovať obrazovky na registráciu API kľúčov. Nasmerujte tieto aplikácie na AIProxyServer bežiaci na vašom Macu a obmedzenie zmizne.
  • Okamžitá kompatibilita s OpenAI — Akýkoľvek klient hovoriaci OpenAI Chat Completions API funguje hneď. Pre Claude, Gemini, ERNIE ani žiadny iný podporovaný cloud nie je potrebný vlastný adaptér.
  • Šifrovanie na disku — API kľúče sú uložené v šifrovanom trezore pomocou hlavného kľúča špecifického pre daný počítač s obmedzenými oprávneniami súboru.

Kľúčové funkcie

  • Jedenásť cloudových poskytovateľov — OpenAI (ChatGPT), Anthropic (Claude), Google (Gemini), xAI (Grok), Azure OpenAI (Copilot), Perplexity, Groq, DeepSeek, Moonshot (Kimi), Alibaba (Qwen) a Baidu (ERNIE)
  • Koncové body kompatibilné s OpenAI — /<provider>/v1/chat/completions a /<provider>/v1/models pre každého poskytovateľa
  • Streamovanie v reálnom čase — Server-Sent Events (SSE) preposielané pre každého poskytovateľa, vrátane Anthropic a Gemini, ktorých natívne formáty sú prekladané za behu
  • Voliteľné overovanie cez Bearer Token — Štandardne vypnuté pre bezstarostné lokálne použitie, ľahko zapnutelné pri vystavení proxy do LAN
  • Štandardne iba localhost — Sieťové vystavenie je opt-in; proxy počúva iba na 127.0.0.1, kým nepovolíte prístup z LAN
  • Šifrovaný trezor poverení — API kľúče a tajné kľúče uložené so šifrovaním Fernet a súborom hlavného kľúča s oprávnením 0600
  • Automatický štart pri spustení — Spustite aplikáciu a proxy je okamžite pripravené prijímať požiadavky
  • Poznámky a odkazy pre každého poskytovateľa — Rýchly prístup k stránke API kľúčov každého poskytovateľa priamo z hlavného okna

Ideálne pre

  • Vývojárov vytvárajúcich multiplatformové aplikácie, ktoré nemôžu obsahovať UI na registráciu API kľúčov kvôli pravidlám obchodov
  • Vývojárov Flutter, Swift, Electron a webových aplikácií, ktorí chcú jediný backend kompatibilný s OpenAI pre každý cloud AI
  • Pokročilých používateľov predplácajúcich viacero AI služieb, ktorí chcú prepínať poskytovateľov bez zmeny klientskeho kódu
  • Malé tímy zdieľajúce jeden Mac ako AI bránu pre telefóny, tablety a notebooky v rovnakej Wi-Fi sieti
  • Každého, kto radšej udržiava API kľúče v jednom trezore na vlastnom počítači, než aby boli rozptýlené v nastaveniach každej aplikácie

Začíname

  • Spustite AIProxyServer — proxy sa automaticky spustí na porte 8421
  • Vyberte poskytovateľa zo zoznamu a kliknite na Set API Key, potom vložte kľúč získaný z konzoly poskytovateľa
  • Pre ERNIE pridajte API Key aj Secret Key. Pre Azure OpenAI vložte URL koncového bodu nasadenia
  • Nasmerujte svoju klientsku aplikáciu na http://localhost:8421/<provider>/v1 pomocou OpenAI SDK alebo akéhokoľvek kompatibilného HTTP klienta
  • Ak chcete k proxy pristupovať z iného zariadenia v rovnakej Wi-Fi, povoľte Allow LAN Access a zapnite Require Bearer Token na jeho ochranu

Súkromie

  • API kľúče nikdy neopustia váš počítač. Uložené šifrovane s hlavným kľúčom v ~/Library/Application Support/AIProxyServer/ s oprávnením 0600
  • Proxy preposiela požiadavky iba poskytovateľom, ktorých ste výslovne nakonfigurovali — nič nie je odosielané inam
  • Žiadna telemetria, analytika ani akékoľvek volania na pozadí
  • Žiadny účet, žiadna registrácia, žiadny cloudový komponent. Vy spúšťate proxy, vy vlastníte kľúče
  • Štandardne počúvanie iba na localhoste; vystavenie do LAN musíte zapnúť vy