FLeet: Maschinelles Lernen für die Hosentasche
Jedes Mal, wenn wir online Nachrichten lesen oder nach einem Restaurant suchen, sammelt Big Tech riesige Mengen unserer Verhaltensdaten. Google und Facebook zum Beispiel sagen, dass sie dies tun, um den Service zu verbessern und unsere Online-Erfahrungen personalisierter zu gestalten.
Ihre künstliche Intelligenz (KI) filtert Nachrichten nach Artikeln, von denen sie glaubt, dass sie Sie mehr interessieren werden, bietet Videos an, die denen ähnlich sind, die Sie sich zuvor angesehen haben, oder hilft Ihnen, ein Restaurant zu finden, das auf denen basiert, die Ihnen zuvor gefallen haben. Auf der anderen Seite werden diese Daten auch verwendet, um Werbung gezielt auf Sie abzustimmen, und sie können an Dritte weitergegeben werden – ein wichtiger Grund, warum Fragen des digitalen Datenschutzes so wichtig sind.
Neue Forschungsergebnisse des Distributed Computing Laboratory und des Scalable Computing Systems Laboratory der EPFL School of Computer and Communication Science (IC) und des French National Institute for Research in Digital Science and Technology (INRIA) haben nun erstmals gezeigt, dass maschinelles Lernen – das Ausführen von Computeralgorithmen, die sich durch Erfahrung automatisch verbessern – auf unseren mobilen Geräten in Echtzeit möglich ist, ohne deren Funktionalität zu beeinträchtigen und ohne dass wir unsere Daten weitergeben müssen.
Die im Rahmen des gemeinsamen Labors von EPFL und INRIA durchgeführte Arbeit stellt FLeet vor, eine Revolution des so genannten Federated Learning – ein globales Modell, das mit auf mobilen Geräten berechneten Updates trainiert wird, während die Daten der Benutzerinnen lokal bleiben. Federated Learning ist aufgrund seiner Vorteile für den Datenschutz sehr attraktiv, aber da es so konzipiert ist, dass es keine Auswirkungen auf den Energieverbrauch oder die Leistung von Mobilgeräten hat, ist es nicht für Anwendungen geeignet, die häufige Aktualisierungen erfordern, wie z. B. Nachrichtenempfehlungen.
FLeet kombiniert die Privatsphäre von standardmässigem Federated Learning mit der Präzision von Online-Lernen dank zweier Kernkomponenten: I-Prof, ein neuer, leichtgewichtiger Profiler, der die Auswirkungen von Lernaufgaben auf mobile Geräte vorhersagt und kontrolliert, und AdaSGD, ein neuer adaptiver Lernalgorithmus, der resistent gegen verzögerte Updates ist.
Wie einer der Autoren des Papiers, EPFL-Professor Rachid Guerraoui, erklärt, stellt sich heraus, dass unsere Smartphones heute sowohl die Daten als auch die Batterieleistung haben, um verteiltes maschinelles Lernen zu ermöglichen.
«Mit FLeet ist es möglich, während der Nutzung des Mobiltelefons einen Teil seiner überschüssigen Energie für Aufgaben des maschinellen Lernens zu verwenden, ohne befürchten zu müssen, dass Ihr Anruf oder Ihre Internetsuche unterbrochen wird. Einer der Gründe, warum dies wichtig ist und wir nicht wollen, dass das maschinelle Lernen nur stattfindet, wenn Sie schlafen und Ihr Telefon aufgeladen ist, ist, dass wir manchmal Informationen in Echtzeit wollen und brauchen.»
Professor Anne-Marie Kermarrec war ebenfalls Autorin des Papiers: «Wir haben gezeigt, dass, wenn wir alle unsere Telefone zusammenlegen, sie eine grosse Rechenleistung bilden, die mit der von Google mithalten kann, und das gibt den Menschen Alternativen zu zentralisierten, leistungsstarken Computerfarmen. Das ist wirklich kollaboratives Lernen, bei dem lokale Modelle aggregiert werden und zum globalen Modell beitragen, aber man teilt keine Rohdaten und schützt so die Privatsphäre, eine grosse Motivation hinter der Entwicklung dieser Art von Architektur.»
Für den Moment ist FLeet ein Prototyp, der zeigt, was möglich ist. Guerraoui und Kermarrec sagen, dass der nächste Schritt darin besteht, die Arbeit an der Entwicklung eines brauchbaren Endprodukts fortzusetzen sowie andere Aspekte des Designs von FLeet zu erforschen, einschliesslich der Frage, wie das System gegen mögliche Angriffe gesichert werden kann.
«Es gibt heutzutage einen Trend, die Aktivitäten des maschinellen Lernens zurück zum Nutzer zu bringen, denn schliesslich kommen die Daten von uns und wir sollten in der Lage sein zu entscheiden, was auf unseren eigenen Geräten und mit unseren eigenen Daten passiert. Modelle wie FLeet geben den Menschen eine Wahl, eine Alternative zu den grossen Tech-Playern, wenn sie es wollen», so Kermarrec.
