www.veillemag.com https://www.veillemag.com/ 2026-05-09T19:32:43+02:00 Webzine Maker https://www.veillemag.com/favicon.ico GUIDE Intégration du risque cyber au plan communal de sauvegarde des petites communes. 2024-12-08T08:46:00+01:00 https://www.veillemag.com/GUIDE-Integration-du-risque-cyber-au-plan-communal-de-sauvegarde-des-petites-communes_a5505.html https://www.veillemag.com/photo/art/imagette/84790573-60526156.jpg 2024-12-07T16:32:00+01:00 Jacqueline Sala GUIDE Intégration du risque cyber au plan communal de sauvegarde des petites communes.

GUIDE Intégration du risque cyber au plan communal de sauvegarde des petites communes.
 Ce document, destiné aux petites communes de moins de 3500 habitants, aborde la sécurité des systèmes d’information (SSI) en se concentrant sur la protection contre les actes malveillants. Il encourage les communes à inclure ce risque dans leur Plan Communal de Sauvegarde (PCS) pour mieux gérer les crises cyber en tenant compte de leurs ressources.

Le document propose des bonnes pratiques pour prévenir les cyberrisques, intégrer la cybersécurité dans divers projets et évaluer la résilience de leurs systèmes d’information.
ruit d’une collaboration entre le CSF des industries de sécurité et le Pôle d’Excellence Cyber, il évoluera grâce aux retours des petites collectivités. Des sections sur la protection des données personnelles et les exigences en cybersécurité pour les achats numériques seront ajoutées.

Les discussions ont aussi révélé des axes de travail à approfondir, incluant la création de RSSI partagés et la mutualisation des moyens de secours lors d'attaques.

Ces travaux ont été présentés lors de l’European Cyber Week, le 19 novembre 2024 à Rennes, afin de renforcer la cybersécurité des territoires.

 

Intervention du Vice-amiral d’escadre (2S) Arnaud Coustillière Président du Pôle d’Excellence Cyber
GUIDE Intégration du risque cyber au plan communal de sauvegarde des petites communes.

En 2024, l’European Cyber Week se renforce en tant qu'événement majeur européen et international, tout en adaptant son format.


Le congrès se concentre traditionnellement sur l’autonomie stratégique en cybersécurité et cyberdéfense, mais l'intelligence artificielle de défense y a une place accrue.
La conférence CAID, essentielle, aborde toutes les techniques d'IA pertinentes pour le secteur, couvrant des domaines tels que le cyber, le renseignement et différents environnements militaires. De nouveaux événements exploreront aussi les avancées des « IA génératives » et la « sécurité de l’IA ».
Dans un contexte technologique complexe, le rôle de l'IA dans le renforcement de la souveraineté numérique nationale est critique.

Organisé par les membres du Pôle, l'European Cyber Week attire des experts de la cyberdéfense et de l’IA en France et en Europe, offrant conférences et tables rondes pour un échange enrichissant entre entreprises, chercheurs, formateurs et décideurs.
En plus des thèmes liés à l'IA, le congrès propose une vingtaine d'événements sur des sujets variés, incluant la cybersécurité de la supply chain et des journées thématiques internationales.

Les petites communes doivent désormais intégrer le risque cyber dans leur Plan Communal de Sauvegarde (PCS), à l'instar des grandes entreprises.
Lors de l’European Cyber Week 2024, le Pôle d’Excellence Cyber, soutenu par All4Tec et Rennes métropole, a lancé un guide pratique pour aider ces collectivités à faire face aux cybermenaces. Avec la dématérialisation accrue des services municipaux et la sensibilité des données, une cyberattaque pourrait gravement perturber la continuité des services publics et la gestion des crises. Le guide propose des méthodes pour identifier les risques, des conseils pour aligner la cybersécurité sur les objectifs stratégiques, et des outils pour renforcer la réactivité face aux attaques.
Répondant aux besoins d’un large public, notamment les élus locaux et responsables de sécurité, le guide est disponible en ligne sur le site du Pôle d’Excellence Cyber.
Téléchargez-le ici : https://lnkd.in/eStUM9iP.


]]> Utilisation abusive de l'IA générative : une taxonomie des tactiques et des informations issues des données du monde réel. 2024-09-22T13:59:00+02:00 https://www.veillemag.com/Utilisation-abusive-de-l-IA-generative-une-taxonomie-des-tactiques-et-des-informations-issues-des-donnees-du-monde-reel_a5248.html https://www.veillemag.com/photo/art/imagette/82965170-59451202.jpg 2024-09-22T11:25:00+02:00 Jacqueline Sala Utilisation abusive de l'IA générative : une taxonomie des tactiques et des informations issues des données du monde réel.


La technologie GenAI a un grand potentiel de transformation dans de nombreux secteurs, mais elle comporte également des risques importants en cas d'utilisation abusive.
 Une recherche antérieure a révélé que les systèmes d'IA avancés pourraient être exploités à des fins malveillantes. Cependant, il nous manque encore une compréhension claire de la manière dont les modèles GenAI sont spécifiquement exploités dans la pratique, y compris les tactiques utilisées pour causer des dommages.

L'article dont nous vous présentons ici un résumé propose une taxonomie des tactiques d'abus de GenAI, basée sur une analyse de près de 200 incidents signalés entre janvier 2023 et mars 2024. Les attaquants exploitent les capacités du système à travers différentes modalités (image, texte, audio, vidéo) pour causer des dommages.

IA : préoccupations croissantes concernant la sécurité, la confidentialité et la manipulation sont également en augmentation.
L'intelligence artificielle générative et multimodale (GenAI) ouvre de vastes opportunités dans divers secteurs, des tâches complexes telles que la compréhension audiovisuelle et le raisonnement mathématique à la simulation réaliste d'environnements réels. Malgré leur intégration rapide dans des domaines critiques tels que la santé, l'éducation et les services publics, les préoccupations croissantes concernant la sécurité, la confidentialité et la manipulation sont également en augmentation.

Des recherches antérieures ont souligné le potentiel d'utilisation abusive des systèmes d'IA avancés, et des initiatives telles que l'AIM de l'OCDE surveillent activement les incidents liés à l'IA pour évaluer les dommages potentiels. Cependant, peu d'informations sont disponibles sur la manière dont GenAI est spécifiquement exploitée et abusée par divers acteurs, y compris les tactiques utilisées. Une analyse qualitative de rapports médiatiques a permis de mettre en lumière les divers modèles d'utilisation abusive de GenAI, y compris les motivations et les stratégies des attaquants dans un environnement non contrôlé. Il est essentiel de comprendre ces éléments pour mieux contrer les abus potentiels de la technologie en constante évolution.

La manipulation de l'image humaine et la falsification des preuves sont des tactiques courantes dans les cas d'utilisation abusive, visant à influencer l'opinion publique, à commettre des fraudes ou à tirer des profits.
Les abus concernant les systèmes GenAI ne sont pas nécessairement sophistiqués, mais exploitent des capacités facilement accessibles sans expertise technique avancée. L'augmentation de la sophistication et de l'accessibilité des outils GenAI conduit à de nouvelles formes d'utilisation abusive plus subtiles, avec des implications éthiques inquiétantes.

Ces abus incluent l'utilisation de la technologie pour diffuser des messages politiques, promouvoir des agendas personnels et brouiller les frontières entre authenticité et tromperie.

Les résultats offrent une base de données aux décideurs politiques, équipes de sécurité et chercheurs sur le potentiel nuisible des technologies. Cela peut informer la gouvernance et les mesures d'atténuation de l'IA. En identifiant les menaces et tactiques, ce travail guide le développement de stratégies de sécurité adaptées. Il éclaire les mesures d'atténuation et les interventions ciblées pour mieux protéger contre les abus futurs.

En résumé, l'IA générative est parfois utilisée de manière abusive pour des recherches visant à exposer les failles des modèles. Il est possible qu'une utilisation abusive ait plusieurs objectifs. Dans cette analyse, nous nous concentrons sur l'objectif principal de chaque cas, basé sur les informations contextuelles des médias, pour des raisons de simplicité et de clarté.

Consultez l'étude originale
Utilisation abusive de l'IA générative : une taxonomie des tactiques et des informations issues des données du monde réel.
Nahema Marchal*, Rachel Xu*, Rasmi Elasmar, Iason Gabriel, Beth Goldberg and William Isaac.
*Equal contributions, Google DeepMind, Jigsaw, Google.org
Corresponding author(s): Nahema Marchal <nahemamarchal@google.com>
© 2024 Google DeepMind. All rights reserved
 

Objectifs : En analysant notre ensemble de données, nous avons identifié 16 objectifs distincts à l'origine de l'utilisation abusive de GenAI.
Certains objectifs associés à une utilisation abusive de l'intelligence artificielle ne sont pas forcément malveillants, mais peuvent impliquer des activités illégales. Cela comprend des pratiques telles que la fraude, les troubles civils, la surveillance, le terrorisme, la haine, le harcèlement, l'exploitation des enfants.

D'autres objectifs peuvent causer des conséquences négatives sans intention malveillante, comme l'influence de l'opinion publique, la monétisation des services, la manipulation du marché. En outre, l'utilisation de l'intelligence artificielle peut également être destinée à promouvoir des messages spécifiques, à contester les structures de pouvoir ou à des fins satiriques. Il est important de prendre en compte ces différents objectifs lors de l'utilisation de l'intelligence artificielle pour éviter des conséquences dommageables pour la société et les individus.

Strategies
Ces observations révèlent également des combinaisons distinctes d’objectifs, de tactiques, d’utilisations de GenAI et de cibles d’utilisation abusive qui se fondent dans des « stratégies d’utilisation abusive » plus larges.

Ces stratégies sont utiles à délimiter car elles révèlent les mesures calculées prises pour exploiter GenAI à différentes fins, ce qui peut exiger des interventions sur mesure ou des stratégies d’atténuation. A consulter le tableau où sont énumérées ces stratégies, organisées par objectif. Vous y trouverez aussi la descritpion des tactiques employées, ainsi que des exemples marquants de notre ensemble de données.
 

Signalé par Nicolas Celic
Utilisation abusive de l'IA générative : une taxonomie des tactiques et des informations issues des données du monde réel.

Vous ne savez pas trop à quoi sert l'IA générative ? D'autres le savent très bien.

- Manipuler l'opinion à 26,5%
- Amélioration des Affaires à 20,5%
- Frauder à 18%

Le harcèlement et les cyberattaques sont très minoritaires, mais ça fait tout de même une grosse part du gâteau !
Ce petit air de souffre est-il, jumelé à des questions de montée en compétences, en cause dans les freins à l'adoption par les entreprises et institutions ?


L'étude complète : https://lnkd.in/eh-WmwFA, repérée par Fabienne Billat .

]]> 12 septembre. Les Matinales du CyberCercle. Cybersécurité et la coordination gouvernementale. Invité Jérôme Notin 2024-07-30T15:07:00+02:00 https://www.veillemag.com/12-septembre-Les-Matinales-du-CyberCercle-Cybersecurite-et-la-coordination-gouvernementale-Invite-Jerome-Notin_a5084.html https://www.veillemag.com/photo/art/imagette/81875878-58890424.jpg 2024-07-30T14:04:00+02:00 Jacqueline Sala L’European Union Agency for Cybersecurity a lancé il y a 12 ans le mois européen de la cybersécurité pour promouvoir la cybersécurité et sensibiliser aux menaces.
12 septembre. Les Matinales du CyberCercle. Cybersécurité et la coordination gouvernementale. Invité Jérôme Notin
 En France, l'initiative Cybermoi/s est gérée par Cybermalveillance.gouv.fr. Ce mois européen de la cybersécurité a été lancé par l'ENISA.

Pour le Cybermoi/s 2024, Jérôme Notin, directeur général de Cybermalveillance.gouv.fr, discutera des actions à venir lors des Matinales à Paris le 12 septembre.

Le sénateur Olivier Cadic présidera l'événement et échangera sur la cybersécurité et la coordination gouvernementale.
La discussion se concentrera sur la sensibilisation à la cybersécurité pour les citoyens, les petites entreprises et les collectivités.
Il sera également question du programme d'assistance et de prévention des risques numériques.

Lire la tribune de Jérôme Notin sur la cybersécurité en tant qu'enjeu sociétal et cause nationale.
“Cybersécurité : enjeu sociétal et cause nationale”

À Paris le 12/09/2024- Matinale CyberCercle* Cybermalveillance.gouv.fr à l’heure du Cybermoi/s 2024
 

 

*Matinale CyberCercle* Cybermalveillance.gouv.fr à l'heure du Cybermoi/s 2024

Un échange privilégié avec Jérôme Notin, Directeur Général de Cybermalveillance.gouv.fr Un rendez-vous réservé à nos invités et à nos partenaires Si vous souhaitez y être invité ou connaître les conditions de participation, vous pouvez envoyer un mail à contact [@] cybercercle.com
Invités : 
Olivier CADIC, Sénateur des Français établis hors de France, Vice-président de la commission des Affaires étrangères, de la Défense et des Forces armées du Sénat
Jérôme NOTIN, Directeur Général, cybermalveillance.gouv.fr
Bénédicte PILLIET, Présidente, CYBERCERCLE

Plus d'infos sur le site du Cybercercle


A propos de cybermalveillance.gouv.fr
Depuis 2O22, Cybermalveillance.gouv.fr a été salué pour son soutien, son éducation et sa surveillance des menaces cybernétiques, attirant 8 millions de visiteurs et recevant des éloges de la part des membres.
Bien que des avancées aient été réalisées, il y a encore un long chemin à parcourir pour faire face aux défis à venir. Devant l'évolution des dangers, le système reste engagé à fournir des informations et à promouvoir l'autonomisation afin de garantir la protection des personnes, des entreprises et des communautés.

Il joue un rôle crucial dans la transition numérique et le renforcement des compétences en sécurité informatique, en rassemblant les intervenants du domaine. Cybermalveillance.gouv.fr aura une importance cruciale dans de grands projets nationaux de sécurité numérique, améliorant ainsi son influence et devenant la principale source d'information sur les cybermenaces pour les Français.  Afin de maintenir cette dynamique, l'équipe nécessitera le support de la communauté de la cybersécurité.

]]>