Non, les agents IA d’OpenAI et Anthropic ne menacent pas vraiment la cybersécurité
Un nombre croissant de professionnels de la cybersécurité déplorent la façon « IApocalyptique » qu’ont OpenAI, Anthropic et de nombreuses entreprises des Big Tech’ de présenter les capacités des agents IA en matière de cyberattaques.
(pas en accès libre, dommage, ça serait utile à certains qui tombent encore trop facilement dans le panneau)
8 Comments
keepthepace@slrpnk.net · 2 pts · 21h
Elles ont besoin d'interdire les modèles ouverts. C'est surtout de la FUD. Perso je m'attends à un gain net si ça aide à scanner les bases de code pour corriger les failles de sécurité.
leftascenter@jlai.lu · 1 pts · 18h
FUD c'est quoi?
siera@jlai.lu · 2 pts · 14h
"Fear uncertainty doubt", une technique de manipulation qui vise à générer ces émotions négatives pour faire accepter une politique ou vendre un produit.
roucool@jlai.lu · 2 pts · 16h
Les IAs génératives sont des très bons outils pour trouver des failles ignorées par les humains, maintenant les modèles frontier atteignent de plus en plus leurs limites et ne sont que des évolutions incrémentales.
Au final les grosses entreprises américaines ont besoin de ces headlines de merde (on a atteint l'AGI!!!) et ces effets d'annonce pour justifier leurs levées de fond et la course aux data centers.
siera@jlai.lu · 1 pts · 14h
Les histoires d'IAg ça a effectivement l'air d'être du n'importe quoi pour lever des fonds vu que la définition est complètement floue. Personne n'a l'air capable de dire quels problèmes concrets un super-modèle résoudrait.
Par contre sur la progression des modèles je trouve quand même ça impressionnant : vers 2023-24 je pensais que ça allait rapidement atteindre un plateau par manque de moyen mais ils ont l'air capable d'en trouver toujours plus (en détruisant probablement les conditions d'habitabilité humaines au passage ça c'est une autre histoire)
Qu'est-ce qui te fait dire que les modèles frontiers ont atteint un plateau?
(vu que je n'utilise pas d'IAg je ne suis ça qu'à travers les témoignages et articles de presse ou études)
leftascenter@jlai.lu · 1 pts · 21h
C'est la ou je suis moins d'accord. Le pirate de base qui vise les PME oui, le pirate étatique qui vise les infrastructures c'est pas pareil.
Et là encore, ça dépend de l'objectif : si c'est de foutre un grand coup pour tout mettre à plat où si c'est de faire une infiltration pour pouvoir résider ensuite.
keepthepace@slrpnk.net · 2 pts · 21h
Sans compter que trouver une nouvelle Zero Day c'est peut être cher, mais tester quelques centaines de failles connues sur ta cible, c'est beaucoup plus facile.
Solumbran@lemmy.world · 0 pts · 1d
Bah oui, ça s'appelle juste un coup de pub.
Qui aurait pu prédire qu'une machine à hallucinations n'aurait pas d'expertise dans un domaine de pointe ?