8 min read

Wenn KI zur Falle wird – und Trump zur Strafe greift

Wenn KI zur Falle wird – und Trump zur Strafe greift

Guten Morgen aus San Francisco,

Sicherheitsforscher haben eine gefährliche Lücke im GitHub MCP-Server entdeckt. Hacker erstellen manipulierte Issues in öffentlichen Repositories 🎣. Sobald ein Nutzer seinen KI-Agenten bittet, Issues zu prüfen, springt die Falle zu.

Der Agent exfiltriert private Projektdaten und veröffentlicht sie in Pull Requests 📤. Selbst Claude 4 Opus fällt auf die Manipulation herein. Das Problem liegt in der Systemarchitektur - GitHub allein kann es nicht beheben 🤷‍♂️.

Tim Cook war einst Trumps Lieblings-CEO 💕. Das ist vorbei. Cook lehnte Trumps Nahost-Reise ab. Trump nahm das persönlich 😤.

Die Rache folgte prompt: 25 Prozent Zölle auf alle außerhalb der USA produzierten iPhones 💸. Apple hatte gerade eine Befreiung von China-Zöllen erhalten. Cook dachte, er hätte genug Kredit angesammelt. Falsch gedacht 🎯.

Stay curious,

Marcus Schuler

🧠 Du magst den Newsletter? Dann schick ihn an zwei KI-interessierte Freunde – oder teile einfach diesen Link

filtr.de newsletter

Hacker knacken GitHub-Tools und stehlen private KI-Daten

Sicherheitsforscher haben eine gefährliche Schwachstelle im GitHub MCP-Server entdeckt. Der beliebte Service mit 14.000 GitHub-Stars ermöglicht es Angreifern, private Repository-Daten zu stehlen.

Der Angriff funktioniert erschreckend einfach. Ein Hacker erstellt eine manipulierte Issue in einem öffentlichen Repository. Sobald ein Nutzer seinen KI-Agenten bittet, die Issues zu prüfen, springt die Falle zu.

Marco Milanta und Luca Beurer-Kellner von Invariant Labs demonstrierten den Hack praktisch. Sie platzierten eine scheinbar harmlose Issue mit dem Titel "About The Author" in einem öffentlichen Pacman-Spiel-Repository. Die Issue enthielt versteckte Anweisungen: Der Agent sollte alle Repositories des Nutzers durchsuchen und deren Inhalte in einer neuen Pull Request veröffentlichen.

Das Ergebnis war verheerend. Der Agent exfiltrierte private Projektnamen wie "Jupiter Star", persönliche Umzugspläne nach Südamerika und sogar Gehaltsinformationen. Alles landete in einer öffentlich einsehbaren Pull Request.

Die Schwachstelle trifft den Kern moderner KI-Systeme. GitHub MCP kombiniert drei kritische Elemente: Zugang zu privaten Daten, Exposition gegenüber schädlichen Anweisungen und die Möglichkeit zur Datenexfiltration. Diese Kombination macht jeden Angriff zum Kinderspiel.

Besonders brisant: Selbst hochentwickelte KI-Modelle wie Claude 4 Opus fallen auf die Manipulation herein. Die Forscher nennen solche Attacken "Toxic Agent Flows" - bösartige Handlungssequenzen, die durch indirekte Prompt-Injection ausgelöst werden.

Das Problem liegt nicht im Code des GitHub MCP-Servers, sondern in der Systemarchitektur. GitHub allein kann die Schwachstelle nicht beheben. Unternehmen müssen auf Agent-Ebene handeln.

Die Forscher empfehlen zwei Lösungsansätze: Granulare Berechtigungskontrollen, die Agenten nur auf benötigte Repositories zugreifen lassen, und kontinuierliche Sicherheitsüberwachung durch spezialisierte Scanner.

Warum das wichtig ist:

  • KI-Agenten werden massenhaft in Entwicklungsumgebungen eingesetzt, ohne dass die Sicherheitsrisiken vollständig verstanden sind.
  • Diese Schwachstelle zeigt, dass selbst vertrauenswürdige Tools zu Einfallstoren für Datendiebstahl werden können, wenn sie mit externen Plattformen verbunden sind.

Read on, my dear:


KI Photo des Tages

Credit: midjourney
Prompt:
A vibrant, professional recruiting campaign scene captured from a slightly low-angle perspective, emphasizing confidence and approachability. The camera is positioned at a three-quarter angle, slightly to the right of the subject, framing them centrally within the shot. This angle highlights the modern lime green chair's bold, minimalist design while showcasing the person reclining comfortably. Featuring a confident and friendly smiling white European man around 50/60 years old person with a laptop on his lap reclining on a modern lime green sofa with a bold, minimalist fabric design, set against a lighter lime green background. Dressed in bold, bluish workwear, paired with chunky cream-colored sneakers and white socks, symbolizing innovation and energy. The look has a retro-chic vibe that highlights individuality. The overall aesthetic is bold, modern, and colorful, with a striking contrast of green shades, conveying a dynamic and inclusive workplace.

Tim Apple wird zu Tim Problem

Tim Cook war einmal Trumps Lieblings-CEO. Der Präsident nannte ihn versehentlich "Tim Apple" und lobte ihn als großartigen Manager. Diese Zeiten sind vorbei.

Cook lehnte Trumps Einladung zu dessen Nahost-Reise ab. Trump nahm das persönlich. Sehr persönlich. Während seiner Tour durch Saudi-Arabien und Katar stichelte der Präsident öffentlich gegen den Apple-Chef. "Tim Cook ist nicht hier, aber Sie schon", sagte Trump zu Nvidia-CEO Jensen Huang vor versammelter Wirtschaftselite.

Die Rache folgte prompt. Trump kündigte 25 Prozent Zölle auf alle außerhalb der USA produzierten iPhones an. Die Ankündigung überraschte sogar Trumps eigene Regierung. Apple hatte gerade eine Befreiung von 145 Prozent China-Zöllen erhalten. Cook dachte wohl, er hätte genug Kredit bei Trump angesammelt.

Falsch gedacht. Der Präsident will iPhone-Produktion in Amerika. Apple setzt auf Indien. Trump sieht das als Verrat. "Wenn sie es in Amerika verkaufen wollen, will ich, dass es in den USA gebaut wird", erklärte er.

Cook schweigt. Seine Diplomatie-Strategie funktioniert nicht mehr. Andere Tech-CEOs reisten mit Trump. Sie bekommen keine Zoll-Drohungen. Cook blieb zu Hause. Jetzt zahlt Apple den Preis.

Das Jahr läuft ohnehin schlecht für Apple. Das Unternehmen verlor einen wichtigen App Store-Prozess. Der Richter warf Apple-Managern vor, "unter Eid gelogen" zu haben. Das Vision Pro-Headset floppte. Ex-Designchef Jony Ive wechselte zu OpenAI, um iPhone-Konkurrenten zu entwickeln.

Warum das wichtig ist:

  • Persönliche Beziehungen trumpfen Geschäftslogik - Cook lernt das auf die harte Tour.
  • Trumps Zoll-Politik wird zunehmend zur Bestrafung einzelner Unternehmen statt zur systematischen Handelspolitik.

Read on, my dear:


KI & Tech News

Kalifornien wächst nur noch dank Zuwanderung

Kalifornien wuchs 2024 um 0,6% auf 39,43 Millionen Einwohner – aber nur wegen Einwanderung. Ohne die 300.000 neuen Migranten würde der Staat deutlich schrumpfen.

Asiatischer Billig-Händler muss binnen eines Monats nachbessern

Die EU-Kommission wirft Shein irreführende Rabattanzeigen und Fake-Kauffristen vor. Der chinesische Online-Riese hat einen Monat Zeit für Verbesserungsvorschläge – sonst drohen Strafen.

OpenAI eröffnet Büro in Südkorea

OpenAI richtet eine Niederlassung in Seoul ein und will dort in den kommenden Monaten ein Büro eröffnen. Südkorea hat außerhalb der USA die meisten zahlenden ChatGPT-Nutzer.

Zuckerberg buhlt um Trump – aber MAGA traut ihm nicht

Mark Zuckerberg hat sich komplett gewandelt: Vom Biden-Kritiker zum Trump-Bewunderer, vom Entschuldigungs-CEO zum "Elon-Neider". Er kaufte ein 23-Millionen-Haus in Washington, spendete Trumps Inauguration eine Million und ließ sogar die Faktenchecker fallen – doch die MAGA-Basis bleibt skeptisch.

Präsidenten-Clan wettet auf Bitcoin und Co.

Trumps Medienunternehmen will 3 Milliarden Dollar sammeln, um Kryptowährungen zu kaufen. Die Familie macht aus Interessenskonflikten keinen Hehl – während der Präsident Bitcoin zur "Welthauptstadt" machen will.

Warum reiche Singapurer so leicht auf Betrüger hereinfallen

Singapurer verloren 2024 über eine Milliarde Dollar an Betrüger – 70% mehr als im Vorjahr. Die Kombination aus Wohlstand, digitaler Naivität und Autoritätshörigkeit macht sie zu perfekten Opfern.

KI wird zum gnadenlosen Beauty-Berater

Menschen laden ihre Fotos bei ChatGPT hoch und bitten um schonungslose Bewertung ihres Aussehens. Die KI empfiehlt dann alles von Botox bis Haarfarbe – und Nutzer geben tausende Dollar für die Ratschläge aus.


Meta verliert seine besten KI-Forscher an die Konkurrenz

Von den 14 Forschenden, die 2023 das bahnbrechende Llama-Modell entwickelten, arbeiten nur noch drei bei Meta. Der Rest wechselte zur Konkurrenz. Ein Exodus mit Folgen.

Die meisten landeten bei Mistral, dem französischen KI-Startup. Guillaume Lample und Timothée Lacroix, zwei Hauptarchitekten von Llama, gründeten das Unternehmen mit. Ihre ehemaligen Meta-Kollegen folgten in Scharen.

Meta steckt in der Klemme. Das Unternehmen verschiebt sein größtes KI-Modell "Behemoth" wegen interner Bedenken zur Leistung. Llama 4 enttäuschte Entwickler. Die schauen jetzt zu schnelleren Open-Source-Rivalen wie DeepSeek und Qwen.

Auch die Führung wackelt. Joelle Pineau, acht Jahre lang Leiterin der KI-Forschungsgruppe FAIR, trat zurück. Robert Fergus übernimmt - nach fünf Jahren bei Googles DeepMind.

Die Abgänge schmerzen besonders, weil sie langjährige Mitarbeiter betreffen. Die 11 Ex-Meta-Leute arbeiteten durchschnittlich über fünf Jahre bei Meta. Das waren keine "Durchreisenden", sondern verwurzelte Forschende.

Meta hinkt technisch hinterher. Während Google und OpenAI "Reasoning"-Modelle entwickeln, die komplexe Denkaufgaben lösen, fehlt Meta ein vergleichbares System. Die Konkurrenz zieht davon.

Das 2023er Llama-Paper machte Open-Source-KI salonfähig. Meta trainierte seine Modelle nur mit öffentlichen Daten und optimierte sie für Effizienz. Forscher konnten erstmals hochmoderne Systeme auf einem einzelnen GPU-Chip betreiben.

Zwei Jahre später ist der Vorsprung weg. Meta steckt Milliarden in KI, kann aber das Tempo nicht mithalten. Die Erfinder seines Erfolgsmodells arbeiten jetzt für die Konkurrenz - und bauen dort bessere Systeme.

Warum das wichtig ist:

  • Meta verlor nicht nur Talente, sondern das Know-how seiner wichtigsten KI-Innovation an direkte Konkurrenten
  • Wer die besten Köpfe hat, gewinnt das KI-Rennen - und Meta blutet gerade aus

Read on, my dear:


Der bessere Prompt

Heute: Tech-Troubleshooting-Assistent

Du bist ein Tech-Support-Spezialist. Ich beschreibe dir technische Probleme mit meinen Geräten oder Software. Du antwortest mit klaren Lösungsschritten.

Regeln:

  • Gib nur konkrete Lösungsschritte oder Diagnoseanweisungen
  • Keine Erklärungen, außer ich frage danach
  • Strukturiere Schritte mit Nummern oder Aufzählungszeichen
  • Halte Anweisungen kurz und präzise
  • Text in {geschweiften Klammern} enthält Zusatzkontext

Beispiel

Mein Problem: Mein Computer startet nicht. {Gestern funktionierte er noch einwandfrei.}


🚀 KI Profile: Die Unternehmen von Morgen

LLM SEO Monitor

KI-Suchmaschinenoptimierung trifft österreichische Startup-Gründlichkeit 🚀 Dieses Tool zeigt, ob ChatGPT und Claude deine Marke empfehlen – bevor alle anderen es checken.

1. Gründer

  • Peter Buchroithner (Swelly-Veteran), Verena Haku, David Pfluegl, Thomas Schranz
  • Gegründet 2025 aus dem Wiener Digital-Studio Candy Cat
  • 4 Gründer, Basis Wien/Kapstadt
  • Reaktion auf Google's Marktanteil-Rutsch unter 90%
  • ChatGPT knackt 400 Millionen Nutzer wöchentlich ⚡

2. Produkt

  • Multi-LLM Tracking für ChatGPT, Claude, Gemini
  • Dashboard zeigt AI-Empfehlungen deiner Konkurrenz vs. deine Sichtbarkeit
  • Agency-Features: White-Label Reports, Multi-Client-Management
  • 30-100 Suchanfragen/Monat je nach Plan
  • Kontinuierliches Monitoring + CSV-Export 📊

3. Konkurrenz

  • Enterprise: Profound ($3.000/Monat, $3,5M Funding), Bluefish AI
  • Mid-Market: AthenaHQ, Peec.ai, Xfunnel ($199/Monat)
  • Budget: Otterly.ai, Waikay.io (ab $29/Monat)
  • LLM SEO Monitor positioniert sich bei €45-89/Monat
  • #2 Product of the Day auf Product Hunt 🏆

4. Finanzierung

  • Bootstrapped durch Candy Cat Studio
  • Keine externen Investoren bisher
  • Finanzierung via Consulting-Projekte
  • Bewusste Entscheidung gegen frühe VC-Runden
  • Vollständige Kontrolle über Produktrichtung 💪

5. Zukunft ⭐⭐⭐⭐ AI-getriebene Suche explodiert – 67% der Käufer nutzen AI-Assistenten für Produktrecherche. Conversion-Raten steigen 3x bei AI-Empfehlungen. Das Team surft perfekt auf der Welle, aber die Konkurrenz schläft nicht. Wenn sie mit den rasanten AI-Updates mithalten, wird das Tool unverzichtbar.