Sam Altman, le patron d’OpenAI, a annoncé que ChatGPT allait pouvoir mener des conversations érotiques. Une décision aux arrière-pensées commerciales à peines voilées, mais qui inquiètent aussi les spécialistes…
Une boite qui collecte tes données persos veut aussi connaitre tes fantasmes sexuels ?
Ils sont obligé, de comment marche le service. Pour resservir ton historique, c’est nécessaire.
Si tu regarde leur privacy policy, ils vont donner des données privée a des third party uniquement si la boite se fait racheter, par ce qu’ils sont obligé légalement, ou pour troubleshooting technique.
Dans un monde idéal, l’historique de conversation serait stocké et chiffré de sorte que l’«IA» n’y ait accès uniquement lorsqu’il faut générer le(s) message(s) suivant(s).
Aucun besoin impératif pour que quiconque d’autre puisse accéder en clair aux conversations sans le consentement explicite du participant humain.
Évidemment, c’est moins d’effort et plus lucratif pour eux de tout conserver en clair par défaut.
Qu’est ce qu’il te fait dire que leur DB est pas déjà chiffré on rest ?
Ils l’ont dit récemment: ils avaient une obligation légale de stoquer les messages, ils ne l’ont plus, les messages supprimé et temporaire, resteront supprimé.
Disons que sans audit externe, j’ai du mal à les faire confiance sur parole. Et puis qu’ils suivent une politique de suppression ne dit rien sur si les données sont chiffrées. Si on les croit sur parole, effectivement, ils paraissent faire “ce qu’il faut” et donc ca serait naturel que les données sont chiffrées au repos.
Mais j’aurais dû être plus précis : dans un monde idéal, non seulement ça serait chiffré mais uniquement l’IA y aurait accès. J’ai du mal à croire qu’il y ait 0 employé d’OpenAI qui ait accès à la clé de chiffrement, par exemple. Ça serait vraiment se compliquer la tâche juste pour être hyper responsable. Et vu comment OpenAI parait toujours réagir aux mauvais coups de pub plutôt que d’être proactif quand il s’agit de protéger leurs utilisateurs (une source parmi d’autres), encore une fois j’ai du mal à les faire confiance.
Après, bon, c’est vrai que ça reste de la spéculation de ma part.
Ils sont obligé, de comment marche le service. Pour resservir ton historique, c’est nécessaire.
Si tu regarde leur privacy policy, ils vont donner des données privée a des third party uniquement si la boite se fait racheter, par ce qu’ils sont obligé légalement, ou pour troubleshooting technique.
Dans un monde idéal, l’historique de conversation serait stocké et chiffré de sorte que l’«IA» n’y ait accès uniquement lorsqu’il faut générer le(s) message(s) suivant(s).
Aucun besoin impératif pour que quiconque d’autre puisse accéder en clair aux conversations sans le consentement explicite du participant humain.
Évidemment, c’est moins d’effort et plus lucratif pour eux de tout conserver en clair par défaut.
Qu’est ce qu’il te fait dire que leur DB est pas déjà chiffré on rest ? Ils l’ont dit récemment: ils avaient une obligation légale de stoquer les messages, ils ne l’ont plus, les messages supprimé et temporaire, resteront supprimé.
Disons que sans audit externe, j’ai du mal à les faire confiance sur parole. Et puis qu’ils suivent une politique de suppression ne dit rien sur si les données sont chiffrées. Si on les croit sur parole, effectivement, ils paraissent faire “ce qu’il faut” et donc ca serait naturel que les données sont chiffrées au repos.
Mais j’aurais dû être plus précis : dans un monde idéal, non seulement ça serait chiffré mais uniquement l’IA y aurait accès. J’ai du mal à croire qu’il y ait 0 employé d’OpenAI qui ait accès à la clé de chiffrement, par exemple. Ça serait vraiment se compliquer la tâche juste pour être hyper responsable. Et vu comment OpenAI parait toujours réagir aux mauvais coups de pub plutôt que d’être proactif quand il s’agit de protéger leurs utilisateurs (une source parmi d’autres), encore une fois j’ai du mal à les faire confiance.
Après, bon, c’est vrai que ça reste de la spéculation de ma part.