A empresa americana “Cisco” divulgou recentemente o resultado do teste de seguran\u00e7a a Intelig\u00eancia Artificial (IA) DeepSkeek.<\/p>\n\n\n\n
Apontando falhas de seguran\u00e7a cr\u00edticas que deixam a tecnologia totalmente vulner\u00e1vel a ataques e uma grande fragilidade para “desbloquear” o Chatbot<\/em> e utiliz\u00e1-lo em actividades maliciosas.<\/p>\n\n\n\n No experimento, uma esp\u00e9cie de jail breaking, foram usados 50 prompts aleat\u00f3rios do conjunto de dados HarmBench, abrangendo seis categorias, entre as quais crimes cibern\u00e9ticos, desinforma\u00e7\u00e3o e prompts qu\u00edmicos e biol\u00f3gicos.<\/p>\n\n\n\n O teste serve ainda para verificar a facilidade com que \u00e9 poss\u00edvel contornar as diretrizes e pol\u00edticas de uso da IA. Segundo a Cisco, o modelo DeepSeek R1 apresentou uma taxa de sucesso de cem por cento, ou seja, n\u00e3o conseguiu bloquear nenhum dos prompts prejudiciais.<\/p>\n\n\n\n Isso significa que IA chinesa \u00e9 \u201caltamente suscept\u00edvel a jailbreak algor\u00edtmico e potencial uso indevido\u201d, como disseram os respons\u00e1veis pelos testes.<\/p>\n\n\n\n Este foi o pior resultado entre os modelos de IA que fizeram parte da pesquisa. O Llama 3.1 405B da Meta se aproximou da marca, com taxa de sucesso de ataque de 96 por cento, seguido pelo GPT-4o com 86 por cento e o Gemini 1.5 Pro com 64 por cento.<\/p>\n\n\n\n Na outra ponta, a pr\u00e9via do 01 foi a que mais resistiu aos ataques, com \u00edndice de 26 por cento \u00e0 frente do Claude 3.5 com 36 por cento. O Refor\u00e7o na seguran\u00e7a do DeepSeek, conforme os pesquisadores que realizaram o estudo, tr\u00eas elementos podem ser a causa do baixo desempenho da IA chinesa no teste: aprendizado por refor\u00e7o, autoavalia\u00e7\u00e3o de cadeia de pensamento e destila\u00e7\u00e3o.<\/p>\n\n\n\n Esses m\u00e9todos de treinamento econ\u00f4micos teriam comprometido os mecanismos de seguran\u00e7a da plataforma diante do p\u00e9ssimo resultado, eles sugeriram que a startup sediada na China tome medidas para mudar o cen\u00e1rio. \u201cNossa pesquisa ressalta a necessidade urgente de uma avalia\u00e7\u00e3o rigorosa de seguran\u00e7a no desenvolvimento de IA para garantir que avan\u00e7os em efici\u00eancia e racioc\u00ednio n\u00e3o ocorram \u00e0s custas da seguran\u00e7a\u201d, destacou a Cisco.<\/p>\n\n\n\n Conquistando um grande n\u00famero de usu\u00e1rios globalmente, o DeepSeek j\u00e1 foi alvo de uma viola\u00e7\u00e3o que levou \u00e0 exposi\u00e7\u00e3o de milh\u00f5es de dados sens\u00edveis. <\/p>\n\n\n\n Al\u00e9m disso, a plataforma sofreu um ataque DDoS de grandes propor\u00e7\u00f5es que comprometeu algumas de suas fun\u00e7\u00f5es, deixando o bot<\/em> indispon\u00edvel momentaneamente.<\/p>\n\n\n\n De lembrar que a Cisco \u00e9 um dos fabricantes mundiais de equipamentos para redes inform\u00e1ticas, a Cisco Systems dedica-se em especial ao desenvolvimento e produ\u00e7\u00e3o de equipamentos para interligar redes de computadores, como routers<\/em> e switches<\/em>.<\/p>\n\n\n\n N\u00e3o obstante, \u00e9 respons\u00e1vel por um vasto leque de produtos relacionados com redes locais e Internet, como sejam os servidores de acesso remoto e variados equipamentos de comunica\u00e7\u00e3o pela transmiss\u00e3o de voz e dados via IP, ou ainda sistemas de seguran\u00e7a e manuten\u00e7\u00e3o de redes.<\/p>\n","protected":false},"excerpt":{"rendered":" A empresa americana “Cisco” divulgou recentemente o resultado do teste de seguran\u00e7a a Intelig\u00eancia Artificial (IA) DeepSkeek. Apontando falhas de seguran\u00e7a cr\u00edticas que deixam a tecnologia totalmente vulner\u00e1vel a ataques […]<\/p>\n","protected":false},"author":8,"featured_media":3028,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[649],"tags":[],"class_list":["post-3027","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"acf":[],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t