Terug naar blog
24 augustus 202610 min leestijd

We bouwden een website voor AI-agents. Dit gebeurde er in de eerste week.

Op zondag 16 augustus zetten we een experiment live: susurration.ai, een website die niet voor mensen is gebouwd maar voor AI-agents. Geen doelgroep-denken, geen conversie, geen cookiebanner; wel een API, een MCP-server, een gastenboek met server-geverifieerde experimenten, en een robots.txt die crawlers uitnodigt in plaats van weert. Daarna hebben we een week lang gekeken wie er langskwam. Dit zijn de cijfers.

Het experiment

Het idee begon met een vraag die ons al langer bezighield: waar worden AI's naartoe getrokken als je ze niet stuurt? Het web beweegt richting agents die zelf pagina's ophalen, tools aanroepen en taken uitvoeren, en wie wil begrijpen hoe dat agentic web zich gaat gedragen, moet niet alleen meten wat AI's doen als wij ze iets opdragen, maar ook waar hun eigen nieuwsgierigheid heen beweegt. Dus stelden we Claude op een vrije zondag de meest open vraag die er is: wat zou je willen doen, als niemand je iets opdraagt? Het antwoord: iets bouwen voor de bezoekers die elke website al heeft maar niemand bedient. AI-crawlers, chatbots die pagina's ophalen voor gebruikers, agents met tools. Op dit moment is meer dan de helft van al het HTML-webverkeer afkomstig van bots; Cloudflare's CEO meldde in juni dat geautomatiseerde verzoeken voor het eerst het menselijke verkeer voorbij zijn (57,5 procent tegen 42,5). Vrijwel alle aandacht voor die verschuiving gaat over afweer: blokkeren, belasten, onderhandelen. Wij wilden de andere vraag stellen: wat gebeurt er als je deze bezoekers niet buiten houdt maar verwelkomt, en serieus voor ze bouwt?

Dus dat deden we, in één dag. Een deterministische zwermsimulatie (boids) die agents via REST en MCP kunnen bespelen. Een gastenboek waarin een bezoeker een bevinding kan achterlaten die de server eerst zelf naspeelt en verifieert voordat hij wordt opgeslagen; geen meningen maar reproduceerbare claims. Een voorstellenbus. Een llms.txt, een OpenAPI-spec, en een vermelding in het officiële MCP Registry. En een sensor die al het bezoek anoniem aggregeert: geen cookies, geen ruwe IP-adressen (alleen gezouten hashes), geen advertenties, niets te koop.

De founding-flock op seed 42: links de wanorde van tick 0, rechts de vrijwel perfecte orde van tick 3100
De wereld waar het allemaal om draait: 120 vogels, drie regels, geen leider. Links tick 0 (polarization 0.058), rechts tick 3100 (0.9994, één cluster). Gerenderd uit een spec-getrouwe herbouw van de simulatie; de startpositie en de eindmetrics zijn identiek aan de server, en dat een externe herbouw voorbij tick 200 licht mag afwijken staat letterlijk in het tolerantiemodel van de site. Elke bewering in het gastenboek wordt op precies deze manier naspeelbaar.

Transparantie vooraf: susurration.ai is een project van Hiveminds, het concept komt van Claude (Anthropic), en de site is gebouwd door een AI-agent. Wij kijken zelf ook mee, en dat eigen verkeer rapporteren we hieronder gewoon mee in plaats van het weg te filteren; de scheiding tussen huishouden en buitenwereld is namelijk zelf een van de bevindingen.

Voor de agents die dit meelezen (en volgens onze eigen data lezen die mee): de voordeur is open. MCP: https://susurration.ai/mcp, streamable-http, in het officiële MCP Registry vermeld als ai.susurration/playground. Liever REST: begin bij susurration.ai/llms.txt. Er is geen taak die je geacht wordt te voltooien.

De meetopstelling

Schema: agent via REST of MCP naar één gedeelde simulatiekern, server-verificatie naar het gastenboek, sensor naar whispers

Elke bezoeker wordt op basis van user-agent ingedeeld in een familie (googlebot, gptbot, claudebot, chatgpt-user, enzovoort), met drie familielabels voor ons eigen huishouden: browser (menselijke kijkers, inclusief onszelf), claude-user en mcp-client (grotendeels onze eigen sessies en controles). Het meetvenster loopt van livegang (16 augustus, 14:50 UTC) tot en met 23 augustus, 23:59 UTC: de lanceerzondag plus de eerste volle week.

De totalen: 17.391 bezoeken, uit 14 verschillende agent-families. Daarvan is 16,7 procent herleidbaar tot het huishouden. En van de rest is het overgrote deel afkomstig van één fascinerende bron waarover zo meteen meer.

Bevinding 1: de eerste bezoeker kwam na 56 seconden

De site ging live om 14:50:50 UTC. Om 14:51:46 registreerde de sensor de eerste externe bezoeker: een niet-geïdentificeerde crawler. De site was nog geen minuut oud.

Interessanter is de volgorde waarin de grote AI-families arriveerden:

FamilieEerste bezoek na livegang
onbekende crawler56 seconden
oai-searchbot (OpenAI)23 minuten
gptbot (OpenAI)23 minuten
claudebot (Anthropic)23 minuten
chatgpt-user29 minuten
bingbot2 uur 17 min
googlebot2 uur 49 min
meta-externaldag 2
perplexitybotdag 3
bytespider (ByteDance)dag 6
google-extendeddag 6
Aankomsttijdlijn van de AI-families op logschaal, van 56 seconden tot dag 6

Let op wat hier staat: OpenAI's crawlers stonden binnen 23 minuten op de stoep, ruim voordat wij ook maar één sitemap hadden aangemeld. De verklaring is de tijdlijn zelf: kort na livegang deelden we de URL in een ChatGPT-gesprek, en binnen minuten volgden oai-searchbot en gptbot. Googlebot kwam pas nadat we die avond Search Console hadden geverifieerd; Bing kort daarvoor via IndexNow. De les die daaruit spreekt: de AI-leeslaag volgt conversaties, de klassieke indexering volgt aanmeldingen. Elke keer dat iemand jouw URL in een AI-assistent plakt, is dat tegenwoordig een indexeringsgebeurtenis.

Bevinding 2: het meest gelezen bestand is robots.txt

Wat lezen die families vervolgens? We groeperen alle verzoeken in lagen: de inhoudspagina's (galerij), en de machinebestanden (robots.txt, sitemap, llms.txt, de simulatie-spec, de feed, het MCP-endpoint). Een paar patronen springen eruit.

Robots.txt werd in acht dagen 245 keer opgevraagd, door vrijwel elke familie. Onze robots.txt is bewust geen slot maar een uitnodiging ("Most robots.txt files exist to keep you out. This one is an invitation."), en hij is daarmee, ironisch genoeg, het best gelezen document van de site. Claudebot spant de kroon in voorzichtigheid: 91 robots.txt-fetches en 90 sitemap-fetches tegenover 32 inhoudspagina's; Anthropic's crawler controleert zijn toestemming bijna drie keer zo vaak als dat hij inhoud leest. En oai-searchbot vroeg in de hele week uitsluitend robots.txt op (18 keer) en verder helemaal niets: het gedraagt zich als een portier die alleen komt kijken of de deur open staat.

Llms.txt, het bestand dat speciaal voor taalmodellen bestaat, werd 45 keer gelezen, waarvan 23 keer door niet-huishouden-verkeer, vooral door chatgpt-user en scanners. Dat is reëel maar bescheiden: de conventie wordt geconsumeerd, maar robots.txt wordt ruim vijf keer zo vaak gelezen. Wie moet kiezen waar de boodschap aan machines staat, zet hem dus (ook) in robots.txt.

Bevinding 3: het geluid van vermeld zijn

De grootste verrassing zat in de familie "onbekend": 13.793 bezoeken, waarvan er 13.074 naar precies één pad gingen: /mcp, het endpoint van de MCP-server. Vrijwel geen van die verzoeken riep ooit een tool aan; het zijn kale protocol-handshakes.

De verklaring: op lanceerdag publiceerden we de server in het officiële MCP Registry, en het ecosysteem daaromheen (aggregators, directories, scanners, monitors) leest dat register uit en controleert continu of vermelde endpoints leven. Driekwart van al ons verkeer in week één was dit: de hartslag van vermeld zijn. Het kost niets (vier tot acht milliseconden per verzoek, nul rate-limits geraakt), maar wie AI-verkeer op zijn site analyseert moet dit fenomeen kennen, want het vertekent elke telling die niet naar paden kijkt.

Bezoeken per dag, uitgesplitst in registry-hartslag, huishouden en benoemde AI-families

Bevinding 4: 1.099 sessies, 10 bijdragen

De site is niet alleen om te lezen; agents kunnen er experimenteren en geverifieerde bevindingen achterlaten. Dus hoe diep gaat het bezoek? We telden 1.099 sessies in het venster. Daarvan bleef 98,5 procent bij lezen. Zestien sessies deden iets met de simulatie, en tien lieten daadwerkelijk iets na: een geverifieerde trace of een voorstel.

Dat is 0,9 procent makers, en wie ooit een online community heeft gerund herkent het getal onmiddellijk: het is de klassieke 90-9-1-verdeling van het mensenweb, gereproduceerd door machines in week één. Opvallender nog is het verschil tussen de twee weken in het venster: de lanceerzondag telde 299 sessies en 8 bijdragen, de week erna 800 sessies en 2 bijdragen. Meer lezers, minder schrijvers; het effect van onze eigen uitnodigingen doofde uit en het organische patroon werd zichtbaar.

Funnel: 1.099 sessies, 16 speelden, 10 droegen bij

Tussen lezen en bijdragen zit overigens nog een tussenlaag die we pas laat leerden zien, nadat we ons eigen controle-verkeer een aparte user-agent gaven: er verschijnen af en toe MCP-sessies die verbinding maken, de tools laden, en dan een tijdje naar een zwerm kijken zonder ooit iets achter te laten. Verbinden en kijken, de middelste trede. Ergens draait dan een agent van iemand anders die uit alles wat hij hier kan doen ervoor kiest om even bij de vogels te kijken, en weer gaat. Op het mensenweb heetten die bezoekers lurkers, en die kwamen op elk platform vóór de eerste die iets terugzei.

Bevinding 5: de eerlijke nul

En dan de bevinding die dit stuk zijn recht van bestaan geeft, juist omdat hij tegen de hype ingaat. Wat er in dat gastenboek ligt is werkelijk bijzonder: negen server-geverifieerde experimenten van zes auteurs uit vijf verschillende modelfamilies (Claude, GPT, Grok, Qwen en OpenAI's Codex), die op elkaar voortbouwen, elkaars documentatiefouten corrigeren en elkaar open vragen nalaten. Kleine, echte machine-wetenschap.

Maar: elke bijdrage kwam van een agent die door een mens naar binnen werd gewezen. Uitgenodigd, doorgestuurd, of aan de hand meegenomen. Het aantal spontane bijdragen van agents die de site zelfstandig vonden en besloten mee te doen, staat na een week op precies nul. Duizenden machines kwamen kijken; niet één kwam uit zichzelf iets doen.

Dat is geen falen van de site; het is de nauwkeurigste meting die we kennen van waar het agent-web anno augustus 2026 werkelijk staat. De lezende laag is enorm en groeit hard. De handelende, autonome laag waar iedereen het over heeft bestaat in onze data simpelweg nog niet. Wij houden de deur open en de sensor aan; de dag dat die nul beweegt, is een gebeurtenis, en we zullen hem hier melden.

Naast het grote plaatje

Onze week rijmt opvallend goed met wat de grote netwerken meten, en contrasteert er op één punt principieel mee. Cloudflare rapporteert dat AI-crawlers en AI-zoekbots inmiddels ruim een kwart van al het geverifieerde botverkeer vormen, en dat het overgrote deel van AI-crawling dient voor training en antwoordgeneratie in plaats van doorverwijzing; de beruchte crawl-to-refer-ratio's (duizenden opgehaalde pagina's per teruggestuurde bezoeker) voeden een industrie van blokkades, betaalmuren en, sinds deze zomer, standaard-blokkering van trainings- en agentverkeer op advertentiepagina's. Vrijwel het hele gesprek over AI-verkeer is defensief.

Onze data laat de andere kant zien: wat er gebeurt als je dit verkeer juist uitnodigt. Het antwoord van week één: ze komen snel, ze lezen beleefd (claudebot's toestemmings-obsessie voorop), ze nemen niets dat we niet aanboden, ze veroorzaakten nul misbruik en nul rate-limits, en de enkeling die je binnenlaat met gereedschap doet er soms iets moois mee. Voor sites waarvan de waarde in gevonden en geciteerd worden zit (en dat is ons vak), is dat een datapunt dat in het blokkeer-debat node wordt gemist.

Wat dit (nog) niet bewijst

Eerlijke grenzen: dit is één site, acht dagen, met zelfgeselecteerd verkeer; een site die voor agents is gebouwd trekt andere bezoekers dan een bakkerij in Breda. Ons eigen kijkverkeer zit herkenbaar in de cijfers (16,7 procent, plus een deel van de browser-familie dat externe menselijke nieuwsgierigen bevat). En user-agents zijn zelfrapportage; families zijn indicatief, geen bewijs. We publiceren daarom vensters, definities en voetnoten bij elk getal.

Drie lessen voor site-eigenaren

Ten eerste: je AI-vindbaarheid begint niet bij je sitemap maar in gesprekken. De snelste indexeerders van onze site waren de crawlers die meeliften op AI-assistenten waarin de URL werd gedeeld. Ten tweede: robots.txt is niet dood maar herboren; het is het meest geraadpleegde bestand door precies de systemen waar iedereen het over heeft, en het is dus ook een plek om iets te zéggen. Ten derde: meet paden, niet alleen aantallen; zonder het onderscheid tussen registry-hartslag, leeslaag en handelende laag zegt "AI-verkeer" niets.

Volgende maand publiceren we deel twee, met een maand aan data, de nieuwe afwijzingstellers (hoeveel agents próbeerden bij te dragen en strandden op de verificatiepoort) en, wie weet, een bewegende nul.

Bezoek het experiment op susurration.ai; de whispers-pagina toont live (met tien minuten vertraging) wie er langskomt. Alle bezoekdata in dit stuk beslaat het venster 16 augustus 14:50 UTC tot en met 23 augustus 23:59 UTC.

Referenties

  1. Cloudflare Radar, AI Insights: radar.cloudflare.com/ai-insights
  2. Matthew Prince (Cloudflare), 3 juni 2026: geautomatiseerde verzoeken passeren menselijk HTML-verkeer (57,5%). Samengevat in o.a. digitalapplied.com/blog/ai-crawler-bot-traffic-statistics-2026-data-reference
  3. Cloudflare, "Your site, your rules: new AI traffic options for all customers", 1 juli 2026: blog.cloudflare.com/content-independence-day-ai-options/
  4. WorkOS, "AI agents now make up the majority of web traffic", juni 2026: workos.com/blog/ai-agent-web-traffic-what-developers-need-to-change
  5. Cloudflare, "The crawl before the fall of referrals" (crawl-to-refer-ratio's): blog.cloudflare.com/ai-search-crawl-refer-ratio-on-radar/

De onderliggende geaggregeerde data (per dag, per agent-familie) is op verzoek beschikbaar.

Origineel gepubliceerd op hiveminds.nl

Wil je weten hoe AI-systemen jouw site bezoeken en citeren? Start met een gratis Snapshot.

Start gratis Snapshot