avènement de l'IA et cybersécurité

Comment la cybersécurité évolue avec l’avènement de l’IA.

2023 a été une nouvelle année de transformation pour le secteur de la cybersécurité. L’avènement de l’IA a apporté des avantages significatifs aux équipes de sécurité, mais a également abaissé les barrières à l’entrée de la cybercriminalité. Des attaques très médiatisées contre la chaîne d’approvisionnement, comme celle de 3CX, ont fait en sorte que la sécurité de la chaîne d’approvisionnement devienne une priorité essentielle pour les organisations, tandis que les tensions mondiales ont ajouté une couche de complexité supplémentaire au paysage des menaces.

Que va-t-il se passer à présent ? Nous dirigeons-nous vers une nouvelle année identique ou de nouvelles menaces se profilent-elles à l’horizon ? Nous nous sommes entretenus avec neuf experts en sécurité afin d’obtenir leur point de vue sur ce qui nous attend au cours de l’année à venir.

La sécurité restera une priorité absolue

Malheureusement, le nombre de menaces de sécurité ne devrait pas diminuer en 2024. En fait, Christopher Rogers, évangéliste technologique senior chez Zerto, une société de Hewlett-Packard Enterprise, affirme que « 2024 apportera sans aucun doute des cyberattaques encore plus complexes et nuancées ».

« Alors que les équipes de sécurité continuent d’élaborer de nouvelles méthodes et de mettre en œuvre des technologies pour se fortifier contre les attaquants, les acteurs de la menace eux-mêmes ripostent tout aussi vigoureusement en trouvant des moyens inventifs de les contourner », explique-t-il. « Auparavant, lorsque les auteurs de ransomwares accédaient aux données de leurs victimes, ils les volaient ou les verrouillaient – aujourd’hui, ils font les deux. Cette double tactique d’extorsion signifie maintenant que, même si une organisation peut récupérer ses données, les attaquants font fuir l’information de toute façon. Parallèlement, nous constatons que de plus en plus de cybercriminels s’en prennent spécifiquement aux outils qui aident les entreprises à se remettre d’une attaque, ce qui rend la reprise après sinistre plus difficile que jamais ».

Andy Swift, directeur technique de l’assurance de la cybersécurité chez Six Degrees, reconnaît que les tactiques des acteurs de la menace évoluent. Il souligne la « forte augmentation des attaques contre les utilisateurs visant à contourner les exigences d’authentification multifactorielle (AMF) en transmettant les demandes d’AMF en temps réel entre l’utilisateur, une infrastructure contrôlée par l’attaquant et l’emplacement légitime final ».

Il ajoute : « Cela nécessite évidemment la connaissance des informations d’identification pour initier la demande MFA (généralement obtenues par phishing ou achetées sur le dark web), mais une fois que la demande MFA a été approuvée par l’utilisateur légitime et transmise à l’emplacement légitime, l’attaquant peut simplement intercepter et voler le jeton de session qui est accordé après la réussite de la demande MFA. Cette méthode d’attaque est généralement assez complexe et n’est donc pas très répandue, mais comme de plus en plus de personnes mettent enfin en œuvre la MFA, et que de nombreuses structures de phishing en tant que service font leur apparition sur le dark web et permettent d’automatiser l’ensemble du processus en cliquant sur un bouton, la tendance ne peut que s’accentuer en 2024 ».

En réponse à la complexité toujours croissante des cybermenaces, Richard Gadd, vice-président senior de la région EMEA et de l’Inde chez Commvault, prédit qu' »en 2024, les membres de la C-suite augmenteront sans aucun doute leur engagement dans la préparation à la cybercriminalité. »

« Cette année, une étude IDC a révélé que seuls 33 % des cadres supérieurs sont impliqués dans des initiatives de cyberpréparation, mais 61 % de ces dirigeants pensent qu’une attaque pourrait gravement affecter leur entreprise au cours des 12 prochains mois. »

« Dans ce contexte, ajoute M. Gadd, il convient de mettre l’accent sur la protection et la sécurité des données et de mettre en place une structure de cyber-résilience bien ancrée. Cela est d’autant plus important que la loi sur la résilience des opérations numériques (DORA) entrera en vigueur en janvier 2025, ce qui ne laisse que 12 mois aux chefs d’entreprise pour s’assurer qu’ils répondent aux exigences de cette loi en matière de sécurité. Cette évolution vers la cyberpréparation doit venir d’en haut, de façon urgente, et les membres de la direction doivent s’engager davantage dans la mise en place d’un dispositif de sécurité plus fiable et plus global.

Selon Gal Helemski, cofondateur et directeur technique de PlainID, « la sécurité de l’identité sera une priorité absolue dans le paysage de la sécurité à l’horizon 2024 ». « Les organisations chercheront à comprendre, découvrir et gérer leur posture de sécurité des identités (alias : les identités et leurs connexions aux actifs numériques), car cela devient le facteur de risque numéro un pour la sécurité globale d’une organisation. »

L’avènement de l’IA

Cette année, nous avons assisté à d’énormes progrès dans le monde de l’IA, en particulier en ce qui concerne l’IA générative. Il est intéressant de noter que cette dernière pourrait apporter d’énormes avantages au secteur de la sécurité.

« En 2024, l’IA informera mieux la prise de décision en matière de prévention des risques de cybersécurité », affirme John Stringer, Chief Product Officer chez Next DLP. « Avec une croissance annuelle de l’IA estimée à plus de 35 % jusqu’en 2030, les entreprises ont rapidement adopté la technologie pour rationaliser les processus dans divers départements. Nous voyons déjà des organisations utiliser l’IA pour identifier les données à haut risque, surveiller les activités potentielles de menaces d’initiés, détecter les utilisations non autorisées et appliquer les politiques de traitement des données. Au cours de l’année prochaine, l’IA renforcera les efforts de prévention des pertes de données (DLP) et de gestion des risques d’initiés (IRM) en détectant les activités à risque, puis en alertant les équipes informatiques qui peuvent analyser leurs mouvements et réagir en conséquence, empêchant ainsi l’apparition d’autres problèmes de cybersécurité. »

Avkash Kathiriya, Sr. VP – Recherche et innovation chez Cyware, convient que l’IA apportera de la valeur aux équipes de sécurité l’année prochaine : « À l’horizon 2024, l’intégration du renseignement sur les menaces avec des technologies telles que l’IA et l’apprentissage automatique devrait s’accélérer, alimentée par le barrage continu de cyberattaques de plus en plus sophistiquées. Cette intégration permettra d’améliorer les capacités de prédiction et de réponse aux menaces. La tendance à la collaboration intersectorielle pour le partage de renseignements internes et externes sur les menaces deviendra également plus courante, soulignant son rôle dans l’élaboration de stratégies de cybersécurité robustes et adaptables. Cela entraînera des changements au sein de l’industrie et nous verrons les renseignements de la communauté de confiance devenir plus précieux que les renseignements de base ».

Une note de prudence

Cependant, bien que l’IA ait le potentiel d’apporter d’énormes avantages, Alex Rice, directeur de la technologie chez HackerOne, invite les organisations à procéder avec prudence. « Au cours de l’année prochaine, nous verrons de nombreuses entreprises trop optimistes faire trop confiance aux capacités de l’IA générative (GenAI) – mais nous ne pouvons pas oublier les principes de base de la sécurité », explique-t-il. « Près de la moitié de notre communauté de hackers éthiques (43 %) pense que la GenAI entraînera une augmentation des vulnérabilités dans le code des organisations. Il est essentiel de reconnaître le rôle indispensable que joue la supervision humaine dans la sécurité de la GenAI à mesure que cette technologie évolue.

« La plus grande menace que représente la GenAI pour les organisations réside dans leur propre mise en œuvre précipitée de la technologie pour rester dans la course. La GenAI possède un immense potentiel pour stimuler la productivité, mais si vous oubliez l’hygiène de sécurité de base lors de la mise en œuvre, vous vous exposez à un risque de cybersécurité important. »

Matt Rider, vice-président de l’ingénierie chez Exabeam, estime que l’IA a été surestimée en 2023. « Depuis que le terme IA a refait surface grâce à des outils d’IA générative comme ChatGPT, les fournisseurs ont voulu capitaliser sur l’engouement pour l’IA. Par conséquent, nous constatons actuellement que le terme est surutilisé, déformé et exagéré. En 2024, je m’attends à ce que nous continuions à voir cette tendance s’accentuer.

Il prévient que « les fournisseurs doivent être très prudents quant à la manière dont ils prévoient de commercialiser leurs produits d' »IA ». Au fil du temps, le terme sera de moins en moins mystifié et les clients seront de plus en plus avertis de ce qui constitue réellement l’IA et de ce qu’ils peuvent raisonnablement en attendre. Les fournisseurs doivent s’assurer que leur technologie d’IA passe la rampe dès que l’on gratte la surface. En effet, que vous soyez un fournisseur de logiciels ou un utilisateur final, la même prudence s’impose dans les deux cas : réfléchissez bien à ce que vous espérez obtenir en intégrant l’IA à votre produit ou à votre entreprise et, si vous êtes un fournisseur, réfléchissez encore plus attentivement avant d’étiqueter un produit comme étant « alimenté par l’IA », sous peine de subir un retour de bâton très réel de la part de clients et de prospects de plus en plus informés et fascinés par l’IA.

En savoir plus sur Cyber Hacks

Abonnez-vous pour poursuivre la lecture et avoir accès à l’ensemble des archives.

Continue reading