AI vond de PHP-lekken in weken. Repareren bleef mensenwerk

Toen RTL, Tweakers en het uploadsysteem van de NPO woensdag uit voorzorg offline gingen, ging het om een fout die al twee jaar bekend was. In 2024 vond een kernontwikkelaar die de PHP Foundation had ingehuurd de eerste aanwijzingen. Hij herstelde toen een probleem uit een externe audit door Quarkslab. Een aanval werd alleen getheoretiseerd, een concrete route vond niemand.

Het beveiligingsteam bedacht meerdere reparaties, elk met een prijs. De ene brak de compatibiliteit, de andere opende nieuwe kansen op overbelasting. Een derde vroeg aanpassingen in talloze extensies van derden. Het team besliste bij consensus en koos niet, waardoor het werk maandenlang stilviel en steeds opnieuw begon. De Foundation noemt dat zelf een structurele fout, veroorzaakt door de besluitvorming en een gebrek aan mensen. “We won’t pretend otherwise: the delay was a structural failure, caused by both the security team’s decision process and its lack of resources”, schrijft de PHP Foundation.

Wat AI in augustus wel kon

Op 30 juli begon het beveiligingsbedrijf Calif een audit van PHP, binnen het programma Patch the Planet van OpenAI. Twaalf dagen later meldde Calif-onderzoeker Ryan A een aanval waarmee iemand zonder inlog code op een server kon uitvoeren. De oorzaak was dezelfde als die van het probleem uit 2024. OpenAI meldde op dezelfde dag onafhankelijk dezelfde oorzaak. Calif gebruikte daarvoor het model GPT-5.6 Sol, stelt OpenAI. Wiz, eigendom van Google, kwam op 24 augustus met een tweede lek en zette daar ook AI voor in. Vanaf 11 augustus had de reparatie bij de Foundation de hoogste prioriteit.

AI vond de fout dus niet als eerste. Het bewees dat hij uit te buiten was, en dat was het moeilijke deel. Volgens Wiz zaten de kwetsbaarheden ruim tien jaar in PHP. Het aantonen van misbruik vroeg volgens het bedrijf taken die “aan de grens lagen van wat menselijke onderzoekers in de praktijk konden bereiken”. Wiz zei volgens de NOS: “Met de geavanceerdste AI-modellen en het juiste gereedschap slaagde een enkele onderzoeker binnen een week in iets wat een topteam voorheen maanden werk zou hebben gekost.”

Sneller voor beide kanten

Die snelheid werkt twee kanten op, en de bedrijven die de lekken vonden zeggen dat zelf. Wiz wijst erop dat het voor criminelen dankzij AI sneller lonend wordt om fouten uit te buiten. OpenAI schrijft dat dezelfde capaciteiten aanvallers helpen snel aanvalsmiddelen te bouwen: “the same capabilities can also help attackers rapidly develop offensive tools and exploits.” Het bedrijf, dat zijn eigen programma en modellen aanprijst, stelt dat AI de lekken naar zijn weten vond vóór aanvallers dat deden. Het erkent ook dat de tijd om updates voor te bereiden krap kan worden als de beste modellen niet ver voorlopen op wat iedereen kan gebruiken.

Deze keer lekte die voorsprong via mensen weg. Op 20 oktober verschenen de CVE-nummers op online fora. Calif publiceerde per ongeluk een video van zijn aanval, die volgens de Foundation de bouw van nagemaakte exploits versnelde. Chainguard gaf ruim zes uur voor de afgesproken release eenzijdig software met de reparatie vrij, zodat aanvallers die konden bestuderen. Werkende exploits zag het PHP-team op het moment van release niet. Het NCSC zag geen actief misbruik, Cloudflare volgens de NOS wel.

Meer meldingen, dezelfde handen

Intussen groeit de stapel. Sinds 1 juli publiceerde het PHP-team 15 CVE’s. Daarnaast werkte het ruim honderd meldingen af die ongeldig, dubbel of niet reproduceerbaar bleken. AI helpt het team meldingen te controleren en te groeperen, maar elke beslissing en elke patch blijft mensenwerk: “AI helps the team validate reports and group reports sharing the same root cause, but a person makes every call and works on every patch”, schrijft de Foundation. OpenAI verwacht dat vergelijkbare vondsten de komende maanden sterk toenemen.

Wat tools niet kunnen, is kiezen hoe je een oude ontwerpkeuze in de kern van PHP repareert. Daarvoor zijn volgens de Foundation, die tegelijk om sponsors vraagt, te weinig ervaren mensen: “Making those decisions takes experienced engineers who know the entire PHP codebase, and today there are too few of them.” Het werk hangt af van een kleine groep betaalde ontwikkelaars en wat vrijwilligers, terwijl PHP ook mediasites draait. Volgens Wiz kortte AI het bewijzen in tot een week. De twee jaar daarvoor gingen op aan een handvol mensen dat zonder bekende aanvalsroute een besluit moest nemen.