Topologische Interpretierbarkeit für Deep-Learning-Modelle: Einblicke in die Entscheidungsmechanismen von KI-Systemen
Durch den Einsatz von Techniken aus der topologischen Datenanalyse können wir die Entscheidungsmechanismen von Deep-Learning-Modellen verstehen und erklären, auf welcher Grundlage diese Modelle ihre Vorhersagen treffen.
Wie man die Länge von der Qualität in der direkten Präferenzoptimierung trennt
Die direkte Präferenzoptimierung (DPO) neigt dazu, übermäßig ausführliche Antworten zu generieren, was auf eine Verzerrung in den Präferenzdaten zurückzuführen ist. Wir entwickeln eine einfache Regularisierungsstrategie, die die Verbosität kontrolliert, ohne die Modellleistung zu beeinträchtigen.
Schätzung der Vorhersageunsicherheit mit Maschinellem Lernen: Eine Übersicht
Vorhersagen und Prognosen von Maschinenlernmodellen sollten in Form von Wahrscheinlichkeitsverteilungen erfolgen, um die an Endnutzer übermittelte Informationsmenge zu erhöhen. Obwohl Anwendungen der probabilistischen Vorhersage und Prognose mit Maschinenlernmodellen in Wissenschaft und Industrie zunehmend häufiger werden, wurden die damit verbundenen Konzepte und Methoden noch nicht ganzheitlich strukturiert.
Effizientes kontrastives selbstüberwachtes Lernen: Die für überwachtes Lernen am wenigsten nützlichen Beispiele tragen am meisten zum selbstüberwachten Lernen bei
Die Beispiele, die am meisten zum kontrastiven selbstüberwachten Lernen beitragen, sind diejenigen, die am wenigsten zum überwachten Lernen beitragen.
FRRI: Ein neuer Algorithmus für die induktive Erstellung von unscharfen-roughen Regeln
Interpretierbarkeit ist entscheidend für maschinelles Lernen, und FRRI bietet eine präzise und verständliche Regelinduktion.
Vergleich der Lernmodelle für Belohnungen und direkte Richtlinienoptimierung
Vergleich der Lernparadigmen RLHF und DPO in verschiedenen Einstellungen.
Erkenntnisakkumulation in kontinuierlich erlernten Repräsentationen und das Problem des Merkmalsvergessens
Neu gelernte Informationen werden in kontinuierlich erlernten Repräsentationen genauso katastrophal vergessen wie auf der Ausgabeebene.
© 2024 by Linnk AI