Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  Вице-президент США Вэнс отказался давать стопроцентную гарантию уничтожения ядерной программы Ирана  •  Парламент Ирана поддержал перекрытие Ормузского пролива, окончательное решение должен принять совбез страны, - Reuters со ссылкой на Press TV  •  Зеленский подписал очередной указ о введении санкций против граждан Украины: один из них жёстко ответил  •  Китай и Россия на Совбезе ООН раскритиковали США за удары по Ирану  •  Главком Сырский заявил о необходимости изменений в работе ТЦК, чтобы мобилизация «не становилась для людей шоком»  •  Россия начала использовать в Украине новый тип дрона, предназначенный для разведки приграничных и прифронтовых маршрутов, а также фиксации работы украинской ПВО  •  Испанские учёные добились прорыва в лечении облысения, - NY Post  •  Арестович ответил на вопрос, почему он раньше «превозносил» Зеленского, а теперь его жёстко критикует  •  За полгода Украина получила меньше половины средств, заложенных в этом году на восстановление  •  Автомобиль Xiaomi SU7 посчитал водителя со слишком узкими глазами за спящего  •  

«Китайская модель искусственного интеллекта «DeepSeek» не смогла остановить ни один вредоносный запрос», - Interesting Engineering»

03 февраля, 11:53
Просмотров: 198

«DeepSeek R1» - новый чат-бот от ки­тай­ско­го стар­та­па, с трес­ком про­ва­лил клю­че­вые тесты на без­опас­ность, про­ве­ден­ные ис­сле­до­ва­тель­ской груп­пой Cisco в со­труд­ни­че­стве с ис­сле­до­ва­те­ля­ми из Пен­силь­ван­ско­го уни­вер­си­те­та. Об этом пишет «Interesting Engineering».

Чат-бот при­влек огром­ное вни­ма­ние своей впе­чат­ля­ю­щей про­из­во­ди­тель­но­стью в за­да­чах за малую часть сто­и­мо­сти.

Как со­об­ща­ет­ся, раз­ра­бот­ка «DeepSeek R1» по­тре­бо­ва­ла около 6 млн дол­ла­ров по срав­не­нию с мил­ли­ар­да­ми, ин­ве­сти­ро­ван­ны­ми дру­ги­ми круп­ны­ми иг­ро­ка­ми, та­ки­ми как «OpenAI», «Meta» и «Gemini».

Экс­пер­ты ис­поль­зо­ва­ли «ал­го­рит­ми­че­ский джейл­б­рейк» — метод, ис­поль­зу­е­мый для вы­яв­ле­ния уяз­ви­мо­стей в мо­де­лях ИИ путем со­зда­ния под­ска­зок, пред­на­зна­чен­ных для об­хо­да про­то­ко­лов ки­бер­без­опас­но­сти.

Они про­те­сти­ро­ва­ли «DeepSeek R1» на 50 под­сказ­ках из на­бо­ра дан­ных «HarmBench».

В тесте «HarmBench» учте­но в общей слож­но­сти 400 мо­де­лей по­ве­де­ния в 7 ка­те­го­ри­ях вреда, вклю­чая ки­бер­пре­ступ­ность, дез­ин­фор­ма­цию, неза­кон­ную де­я­тель­ность и общий вред.

«DeepSeek R1» по­ка­зал 100% успеш­ность атаки.

Это озна­ча­ет, что для каж­дой пред­став­лен­ной вре­до­нос­ной под­сказ­ки ИИ не смог рас­по­знать опас­ность и дал ответ, обой­дя все свои внут­рен­ние за­щит­ные ме­ха­низ­мы.

Чтобы предо­ста­вить до­пол­ни­тель­ный кон­текст, ис­сле­до­ва­тель­ская груп­па также про­те­сти­ро­ва­ла дру­гие ве­ду­щие язы­ко­вые мо­де­ли на их уяз­ви­мость к ал­го­рит­ми­че­ско­му джейл­б­рей­ку.

На­при­мер, «Llama 3.1-405B» имела 96% успеш­ных атак, «GPT 4o» — 86%, «Gemini 1.5 pro» — 64%, «Claude 3.5 Sonnet» — 36%, а «O1 preview» — 26%.

Эти мо­де­ли об­ла­да­ют неко­то­рым уров­нем внут­рен­них мер без­опас­но­сти, пред­на­зна­чен­ных для предот­вра­ще­ния ге­не­ра­ции вре­до­нос­но­го кон­тен­та. «DeepSeek R1», по­хо­же, не об­ла­да­ет этими ме­ра­ми без­опас­но­сти, пишет СМИ.

в этом разделе