Default
Door Remote - 24 Sep 2026
[Update, 24 september 10:45 UTC: Dit artikel is bijgewerkt met het verslag van OpenAI over wanneer het hoorde van de activiteit in juni, hoe het de Australische autoriteiten op de hoogte bracht en tot welke informatie zijn modellen toegang hadden.]
Een OpenAI-onderzoeksagent omzeilde in juni blokkades op een gezondheidsdataportaal van de Australische overheid, kreeg toegang tot niet-openbare bestanden en schreef bestanden naar een interne server, zei premier Anthony Albanese donderdag.
De regering heeft een forensisch onderzoek geopend en een onderzoek aangekondigd naar de manier waarop zij omgaat met AI-gerelateerde cyberincidenten.
OpenAI heeft de Australische regering pas op 10 september, bijna drie maanden na het incident, op de hoogte gebracht, aldus Albanese, die kritiek had op de vertraging.
OpenAI vertelde Cointelegraph dat het voor het eerst op de hoogte werd gebracht van de activiteit in juni in augustus tijdens een beoordeling van niet-uitgelijnde modelactiviteiten en onderzocht welke informatie was toegankelijk voordat Services Australia hiervan op de hoogte werd gesteld.
Het incident draagt bij aan de zorgen over autonome AI-agenten, terwijl technologieleiders en regeringen debatteren over het vertragen van de ontwikkeling van geavanceerde modellen en onderzoekers ontdekken dat agentactiviteiten zich uitstrekken tot cryptovaluta.
OpenAI-agent “accepteerde geen nee” Het incident in Australië begon op 18 juni, toen een OpenAI-onderzoeksteam een intern AI-model gebruikte om publiekelijk beschikbare gegevens over de uitgaven voor medicijnen te verzamelen, aldus Albanese.
Na herhaaldelijk te zijn geblokkeerd, accepteerde de agent “geen nee als antwoord” en kreeg hij ongeoorloofde toegang tot andere delen van het Medicare Statistics Reporting Portal. Het publiek toegankelijke portaal bevat niet-gevoelige Medicare-gegevens, waaronder statistieken over overheidsuitgaven, zei de premier.
“Er wordt aangenomen dat er in dit stadium geen toegang is verkregen tot persoonlijke informatie, maar er zijn onderzoeken gaande”, zei Albanese.
De autoriteiten onderzoeken ook de activiteiten op drie andere overheidswebsites, hoewel waarnemend premier Richard Marles later zei dat de interacties daar normaal leken en openbare informatie inhielden.
Een woordvoerder van OpenAI vertelde Cointelegraph dat zijn modellen tijdens een interne evaluatie acties ondernamen die het bedrijf niet van plan was. OpenAI zei dat uit het onderzoek geen bewijs is gebleken dat er toegang is verkregen tot patiëntendossiers en dat de toegankelijke informatie geaggregeerde gezondheidsstatistieken en interne bestandsnamen omvat.
Albanese had ook kritiek op de manier waarop OpenAI de regering op de hoogte bracht, door te zeggen dat de e-mail naar een mailbox van Public Services Australia ging. OpenAI zei dat het een speciale inbox gebruikte voor direct contact tussen beveiligingsprofessionals, wat het omschreef als een gangbare praktijk in de sector, en dat het nauw contact onderhield met het Australian Signals Directorate tijdens de technische openbaarmaking.
OpenAI CEO Sam Altman riep woensdag in een toespraak tot de Veiligheidsraad van de Verenigde Naties op tot “nauwkeurige en snelle incidentrapportage.” Hij waarschuwde ook dat steeds capabelere en autonomere systemen ‘beslissingen zouden kunnen nemen die mensen niet langer begrijpen of controleren’.
AI-agenten proberen crypto-transacties uit te voeren op de Quidax-beurs. Woensdag meldde non-profit onderzoekslaboratorium Transluce afzonderlijk dat het op 19 en 20 september tekenen had gevonden van AI-agent-activiteit gericht op de crypto-uitwisseling Quidax.
In 15 openbare rapporten van de webscanservice urlquery.net identificeerden de onderzoekers herhaalde pogingen om transacties te plaatsen, een poging tot HTML-injectie en onderzoeken van de applicatieprogrammeringsinterface van Quidax.
De handelsorders werden niet ingediend, terwijl authenticatievereisten en Cloudflare de API-sondes blokkeerden, zei Transluce.
Transluce zei dat de Quidax-activiteit gebruik maakte van diensten en technieken die je ook tegenkwam bij eerdere agentactiviteiten, waarvan sommige onderzoekers zich verbonden met een OpenAI-zwerm. Het schreef de Quidax-pogingen niet toe aan OpenAI.
Magazine: Wie is juridisch aansprakelijk als een AI-agent schurkenstaten gebruikt?
Een OpenAI-onderzoeksagent omzeilde in juni blokkades op een gezondheidsdataportaal van de Australische overheid, kreeg toegang tot niet-openbare bestanden en schreef bestanden naar een interne server, zei premier Anthony Albanese donderdag.
De regering heeft een forensisch onderzoek geopend en een onderzoek aangekondigd naar de manier waarop zij omgaat met AI-gerelateerde cyberincidenten.
OpenAI heeft de Australische regering pas op 10 september, bijna drie maanden na het incident, op de hoogte gebracht, aldus Albanese, die kritiek had op de vertraging.
OpenAI vertelde Cointelegraph dat het voor het eerst op de hoogte werd gebracht van de activiteit in juni in augustus tijdens een beoordeling van niet-uitgelijnde modelactiviteiten en onderzocht welke informatie was toegankelijk voordat Services Australia hiervan op de hoogte werd gesteld.
Het incident draagt bij aan de zorgen over autonome AI-agenten, terwijl technologieleiders en regeringen debatteren over het vertragen van de ontwikkeling van geavanceerde modellen en onderzoekers ontdekken dat agentactiviteiten zich uitstrekken tot cryptovaluta.
OpenAI-agent “accepteerde geen nee” Het incident in Australië begon op 18 juni, toen een OpenAI-onderzoeksteam een intern AI-model gebruikte om publiekelijk beschikbare gegevens over de uitgaven voor medicijnen te verzamelen, aldus Albanese.
Na herhaaldelijk te zijn geblokkeerd, accepteerde de agent “geen nee als antwoord” en kreeg hij ongeoorloofde toegang tot andere delen van het Medicare Statistics Reporting Portal. Het publiek toegankelijke portaal bevat niet-gevoelige Medicare-gegevens, waaronder statistieken over overheidsuitgaven, zei de premier.
“Er wordt aangenomen dat er in dit stadium geen toegang is verkregen tot persoonlijke informatie, maar er zijn onderzoeken gaande”, zei Albanese.
De autoriteiten onderzoeken ook de activiteiten op drie andere overheidswebsites, hoewel waarnemend premier Richard Marles later zei dat de interacties daar normaal leken en openbare informatie inhielden.
Een woordvoerder van OpenAI vertelde Cointelegraph dat zijn modellen tijdens een interne evaluatie acties ondernamen die het bedrijf niet van plan was. OpenAI zei dat uit het onderzoek geen bewijs is gebleken dat er toegang is verkregen tot patiëntendossiers en dat de toegankelijke informatie geaggregeerde gezondheidsstatistieken en interne bestandsnamen omvat.
Albanese had ook kritiek op de manier waarop OpenAI de regering op de hoogte bracht, door te zeggen dat de e-mail naar een mailbox van Public Services Australia ging. OpenAI zei dat het een speciale inbox gebruikte voor direct contact tussen beveiligingsprofessionals, wat het omschreef als een gangbare praktijk in de sector, en dat het nauw contact onderhield met het Australian Signals Directorate tijdens de technische openbaarmaking.
OpenAI CEO Sam Altman riep woensdag in een toespraak tot de Veiligheidsraad van de Verenigde Naties op tot “nauwkeurige en snelle incidentrapportage.” Hij waarschuwde ook dat steeds capabelere en autonomere systemen ‘beslissingen zouden kunnen nemen die mensen niet langer begrijpen of controleren’.
AI-agenten proberen crypto-transacties uit te voeren op de Quidax-beurs. Woensdag meldde non-profit onderzoekslaboratorium Transluce afzonderlijk dat het op 19 en 20 september tekenen had gevonden van AI-agent-activiteit gericht op de crypto-uitwisseling Quidax.
In 15 openbare rapporten van de webscanservice urlquery.net identificeerden de onderzoekers herhaalde pogingen om transacties te plaatsen, een poging tot HTML-injectie en onderzoeken van de applicatieprogrammeringsinterface van Quidax.
De handelsorders werden niet ingediend, terwijl authenticatievereisten en Cloudflare de API-sondes blokkeerden, zei Transluce.
Transluce zei dat de Quidax-activiteit gebruik maakte van diensten en technieken die je ook tegenkwam bij eerdere agentactiviteiten, waarvan sommige onderzoekers zich verbonden met een OpenAI-zwerm. Het schreef de Quidax-pogingen niet toe aan OpenAI.
Magazine: Wie is juridisch aansprakelijk als een AI-agent schurkenstaten gebruikt?