OpenAI blundert met beveiliging ChatGPT en begeeft zich op glad ijs

OpenAI heeft twee beveiligingsrisico's vermeden die ernstige gevolgen hadden kunnen hebben voor de toekomst van het bedrijf.

Dat het geen goede week is voor OpenAI is zacht gezegd een understatement. Het Amerikaanse bedrijf heeft zijn handen vol aan twee beveiligingsrisico’s. Een daarvan heeft te maken met de nieuwe ChatGPT app voor MacOS en de ander met een hacker die bedrijfsinformatie heeft gestolen.

Het is algemeen bekend dat Apple strikte beveiligingsregels in de gehele App Store hanteert. Als ontwikkelaar moet je aan deze regels voldoen als je iets wil uitbrengen in de App Store. De ChatGPT app is echter niet beschikbaar in de App Store voor MacOS, maar alleen op de website van OpenAI. En daar ligt ook precies het probleem.

Problemen met de ChatGPT-app voor de Mac

Doordat de ChatGPT-app alleen te downloaden is via de website hoeft het ook niet aan de beveiligingsregels van de App Store te voldoen, hierdoor is de kans op beveiligingsrisico’s groter. Ontwikkelaar Pedro José Pereira Vieito ontdekte dat de gesprekken die gebruikers met de app hadden lokaal werden opgeslagen en niet werden versleuteld.

De combinatie tussen beide kan er voor zorgen dat gevoelige data gemakkelijk op straat komt te liggen en dus ook in de verkeerde handen terecht kan komen. Inmiddels heeft OpenAI een update uitgebracht voor ChatGPT waar dit probleem opgelost lijkt te zijn.

The OpenAI ChatGPT app on macOS is not sandboxed and stores all the conversations in **plain-text** in a non-protected location:

~/Library/Application Support/com.openai.chat/conversations-{uuid}/

So basically any other app / malware can read all your ChatGPT conversations: pic.twitter.com/IqtNUOSql7

— Pedro José Pereira Vieito (@pvieito) July 2, 2024

Hacker steelt AI-technologie van OpenAI

Er was nog een zorgwekkend bericht over OpenAI wat deze week naar buitenkwam. Een hacker heeft in 2023 toegang verkregen op een forum waar medewerkers van OpenAI bedrijfsgeheimen met elkaar bespraken over onder andere ChatGPT.

De hacker had geen toegang tot de systemen van het bedrijf en daardoor kon hij ook niet op servers of bij data van gebruikers. Wel wist de hacker te achterhalen wat OpenAI aan het ontwikkelen was naast ChatGPT op dat moment. Vermoedelijk omdat hij de interne communicatie kon monitoren.

De directie van OpenAI nam het besluit om dit voorval niet publiek te maken. Zij oordeelde dat het om een interne aangelegenheid ging en heeft het alleen gedeeld met medewerkers van het bedrijf.

Gevaar ontweken, maar blijf scherp

OpenAI lijkt dus alle beveiligingsproblemen te hebben verholpen, maar het neemt niet weg dat deze incidenten vrij knullig te noemen zijn. Versleuteling van gebruikersdata is bij veel apps een standaard en dat een hacker vrij makkelijk toegang heeft verkregen tot je interne communicatie is ook niet slim.

Dat dit soort incidenten kunnen leiden tot grote gevolgen hoef ik aan niemand uit te leggen. Het gevaar lijkt voor nu ontweken, maar misschien is het handig als OpenAI alle sloten op de deur van ChatGPT nog een keer controleert.

Onderwerpen

• AI
• beveiliging
• chatgpt
• data
• hacker
• macOS
• privacy