Apple godkender TinyGPU — Mac Mini klar til lokale AI-modeller

Apple har officielt signeret driveren TinyGPU fra Tiny Corp, grundlagt af programmøren George Hotz. For første gang siden overgangen til Apple Silicon kan Mac-brugere tilslutte et eksternt Nvidia- eller AMD-grafikkort og bruge det til AI-beregninger — uden at omgå systemets sikkerhedsmekanismer.

Siden Apple skiftede til sine egne chips i 2020 var det i praksis umuligt at bruge eksterne grafikkort på Apple Silicon-maskiner. Tidligere forsøg krævede, at brugeren deaktiverede System Integrity Protection (SIP), et centralt sikkerhedslag i macOS, som Apple aldrig officielt har understøttet at omgå. TinyGPU løser dette ved at køre inden for macOS’ normale sikkerhedsrammer via Apples DriverKit-mekanisme og aktiveres blot via systemindstillingerne uden nogen form for systemmodifikation.

Ifølge Tiny Corps egne tests kører en Mac Mini tilsluttet en AMD Radeon RX 7900 XTX via Thunderbolt modellen Qwen 2.5 27B med 18,5 tokens i sekundet. Med en ekstern RTX 4090 registrerer community-benchmarks mellem 45 og 50 tokens i sekundet for Llama-modeller i Q4-kvantisering — et præstationsniveau, der hidtil krævede dedikeret hardware til en langt højere pris.

Du vil måske også kunne lideFarvel til silicium: Kina afslører ‘LightGen’ – lys-processoren der udfordrer Nvidia og bryder varmemuren

Hvad driveren kan — og hvad den ikke kan

TinyGPU er udelukkende beregnet til AI-beregninger. Den accelererer ikke skærmoutput, forbedrer ikke spilpræstationer og erstatter ikke Apple Silicons integrerede GPU til videoredigering eller grafikarbejde. AMD-kort fra RDNA3-generationen og frem fungerer med en relativt enkel installationsproces; Nvidia-kort fra Ampere-generationen og frem kræver Docker Desktop, hvilket forudsætter kendskab til udviklingsmiljøer. Thunderbolt 4’s båndbredde udgør desuden et fysisk loft: det samme grafikkort præsterer markant bedre i et natigt PCIe-slot end via ekstern kabelforbindelse.

Mac Pro afviklet — Mac Mini opgraderet

Det fremgår, at Apple i samme måned stiltiende afviklede Mac Pro og fjernede produktsiden fra sit website uden officiel meddelelse og uden at præsentere en efterfølger. Mac Pro var Apples eneste modulære stationære computer, den eneste der gav professionelle brugere mulighed for at udvide regnekraften med egne hardwarekomponenter. Godkendelsen af TinyGPU synes at udgøre Apples implicitte svar: brugere med behov for kraftig AI-beregning på Mac vil fremover opnå det ved at tilslutte eksternt hardware til en Mac Mini — ikke ved at købe et proprietært tårn.

Det viste sig ifølge Tom’s Hardware og TechRadar, at dette er den første tredjeparts compute-driver til eksterne GPU’er på Apple Silicon, der er officielt godkendt af Apple via DriverKit — et bemærkelsesværdigt præcedens for et traditionelt lukket økosystem.

For brugere, der allerede anvender Mac Mini som lokal AI-inferensserver via værktøjer som Ollama eller llama.cpp, er forandringen umiddelbar: modeller, der overskred den samlede mængde unified memory, kan nu befinde sig fuldt ud i VRAM’en på en ekstern GPU, hvilket eliminerer fragmentering og forbedrer behandlingshastigheden væsentligt.

Minimumskravene er macOS 12.1 eller nyere, en Thunderbolt 3-, Thunderbolt 4- eller USB4-port og et kompatibelt grafikkort i et eGPU-kabinet med tilstrækkelig strømforsyning. TinyGPU er tilgængeligt via Tiny Corps officielle dokumentation og GitHub-repository.

Flere som denne

Suncatcher-Gambitten: Indblik i Googles plan for at erobre KI-fremtiden

Kina godkender verdens første kommercielle hjerneimplantat og lader Neuralink bag sig

Torchlight: Infinite lancerer sæson 12 tre måneder efter sit historiske spillerrekord

Pixel Maniacs og PM Studios annoncerer det farvebaserede puzzlespil ChromaGun 2: Dye Hard

Hexstrike-AI: Begyndelsen på Autonom Udnyttelse af Zero-Day Sårbarheder

WhatsApp giver nu mulighed for at chatte uden at dele telefonnummer