Anthropics neues Open-Source-Tool soll beweisen, welches KI-Modell wirklich antwortet
Anthropic stellt mit FlashProve einen Forschungsprototyp vor, der kryptografisch nachweisen soll, ob eine KI-Antwort tatsächlich vom behaupteten Modell stammt. Das System hat noch deutliche Einschränkungen.
Einordnung
Das Tool FlashProve soll beweisen, dass eine Antwort wirklich von einem bestimmten Modell kommt und nicht heimlich von einer anderen KI geschrieben wurde. Das ist vergleichbar mit einem digitalen Echtheitsstempel auf einem Dokument, damit man nicht ausgetrickst wird. Da es sich nur um einen Forschungsprototyp mit deutlichen Einschränkungen handelt, ist das Tool aktuell noch nicht für den Alltag relevant.
Originalquelle: The Decoder.