Perplexity bringt Hybrid Compute auf den Mac

Perplexity hat Hybrid Compute für seine Mac-App veröffentlicht. Die Funktion startet Aufgaben in der Cloud und kann Arbeitsschritte mit privaten Dateien oder sensiblen Daten an ein lokales Modell auf dem Mac weiterleiten.

Der lokale Anteil soll vor allem bei Arbeitsschritten greifen, die private Dateien oder möglicherweise personenbezogene Informationen betreffen. Ein auf dem Gerät ausgeführter PII-Klassifizierer erkennt laut Perplexity Namen, Adressen und Kontonummern. Er ersetzt diese Angaben vor einer Übermittlung durch Platzhalter und setzt sie nach der Verarbeitung wieder ein.

Perplexity gibt an, den Klassifizierer gemeinsam mit seinem Secure Intelligence Institute entwickelt und als Open-Source-Software veröffentlicht zu haben. Für Aufgaben ohne sensible Inhalte bleibt die Verarbeitung bei Cloud-Modellen. Nutzer wählen das Modell, das die Aufgabe steuert. Weitere beteiligte Modelle bestimmt Perplexity.

Die Funktion lässt sich auch geräteübergreifend nutzen. Eine auf einem iPhone oder iPad gestartete Aufgabe kann sensible Schritte auf einem eingeschalteten Mac ausführen, auf dem Perplexity läuft. Dadurch kann der Mac als lokale Recheneinheit dienen, obwohl die Anfrage auf einem anderen Apple-Gerät begonnen wurde.

Voraussetzung sind ein Mac mit Apple silicon und macOS 15 oder neuer. Außerdem verlangt Hybrid Compute mindestens 24 GB Unified Memory. Perplexity empfiehlt 32 GB. Geräte mit 8 oder 16 GB Arbeitsspeicher können die Funktion nach Angaben des Unternehmens nicht ausführen.

Das lokale Modell wird laut Perplexity einmalig eingerichtet. Dafür seien weder Ollama noch eine manuelle Konfiguration der Laufzeitumgebung nötig. Lokal bearbeitete Arbeitsschritte sollen keine Cloud-Guthaben verbrauchen und keinen API-Schlüssel benötigen.

Bei der genauen Liste der zum Start verfügbaren lokalen Modelle weichen die vorliegenden Beschreibungen voneinander ab. Perplexity kündigt weitere Modelle für die Zukunft an. Die grundlegende Aufteilung bleibt davon unberührt: Cloud-Modelle steuern die Aufgabe, während der Mac ausgewählte sensible Schritte lokal verarbeitet.

Hybrid Compute folgt auf frühere Arbeiten von Perplexity an lokaler KI-Verarbeitung auf Macs. Neu ist nun die Veröffentlichung als Bestandteil der Mac-App. Die Funktion richtet sich damit an Arbeitsabläufe, die Cloud-Leistung benötigen, aber bei einzelnen Dateien oder Daten eine lokale Verarbeitung bevorzugen.

Quellen:
Perplexity
Perplexity