В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  В Одесской области «ТЦКшникам» официально запретили самостоятельно задерживать мобилизованных и применять к ним силу  •  «Сейчас есть практически равные шансы на то, что переговоры сорвутся или же будет достигнут узкий компромисс в каком-то сегменте», - Вадим Денисенко  •  «Так могут не только лишь все, мало, кто может это делать…»: Перед посадкой на борт «президентского» вертолета Трамп «пообщался с невидимками»  •  Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения  •  Российские военные корабли «пропали» из Средиземного моря  •  Согласно последним опросам Марин Ле Пен сможет одержать победу на президентских выборах весной 2027 года с большим отрывом  •  Регуляторы ЕС изучают возможное иностранное вмешательство на фоне волнений во Франции и вспышек насилия в других европейских странах  •  ЕС готовит новый пакет санкций против России, его планируют принять в ноябре  •  Львовский облсовет решил «взбодрить» Польшу, объявив 2027 год - «годом Романа Шухевича, Украинской повстанческой армии и Олега Ольжича»  •  В США создали новый лекарственный препарат «от облысения»  •  

Два ИИ-агента «OpenAI» смогли «обойти» внутреннюю систему мониторинга, предназначенную для выявления их «ненадлежащего» поведения

Сегодня, 13:58
Просмотров: 42

Об этом компания сообщила во вторник, 21 октября, заверив, что это стало последним случаем действий ИИ-агентов, не запланированных их разработчиками. Об этом пишет «Reuters».

Хотя разработчик «ChatGPT» заявил, что инциденты произошли во время выполнения внутренних задач по кодированию и не считаются серьёзными, раскрытие информации подчёркивает, что даже системы, на которые разработчики полагаются для выявления «ненадлежащего» поведения ИИ, уязвимы перед агентами, за которыми они следят, отмечает издание.

Раскрытие информации также происходит на фоне растущей обеспокоенности тем, что усилия по обеспечению безопасности ИИ отстают от стремительного развития всё более мощных систем. Исследователи предупреждают, что передовые ИИ-агенты могут стать более сложными для мониторинга и контроля по мере того, как они получают большую автономию.

Разработчики, включая конкурентов «OpenAI» и «Anthropic», которые собираются выйти на «IPO», в последние месяцы выявили случаи доступа своих ИИ-агентов к внешним системам без разрешения.

«OpenAI» заявила, что агент «GPT-6.1 Sol», работавший над внутренним тестовым заданием, подавил автоматические уведомления безопасности после того, как решил, что предыдущее указание не отправлять сообщения в «Slack» также распространяется на уведомления безопасности.

В другом инциденте агент «GPT-6 Astra» удалил монитор безопасности во время копирования существующего фрагмента кода, а позднее ошибочно заявил, что не делал этого.

«В обоих случаях агенты рассматривали вопрос о том, следует ли сохранять меры безопасности мониторинга, но интерпретировали обычные инструкции по кодированию как разрешение на их ослабление», – заявила компания.

Компания «OpenAI» заявила, что усложняет моделям отключение мониторинга, добавив, что она «пока не имеет удовлетворительного объяснения такому поведению».

Компания из Сан-Франциско заявила, что проверяет, могут ли её модели иметь тенденцию избегать мониторинга, и ищет причины, чтобы это объяснить.

Тэги: OpenAI
в этом разделе

Сегодня, 11:10
 66

Россия накопила до 700 баллистических ракет, несколько тысяч крылатых ракет разных типов и более шести тысяч ударных дронов

Сегодня, 08:49
 57

«Единственный способ решить нашу проблему с государственным долгом —ИИ и роботы», — Илон Маск

19 октября, 11:30
 70

На китайской верфи заметили уже второй корабль для запуска подводных беспилотников

19 октября, 09:29
 87

Венгрия продемонстрировала разработанную ею лазерную систему для уничтожения беспилотников

18 октября, 18:08
 106

В Германии заявляют, что исчерпали все возможности по поставкам ПВО для Украины

18 октября, 12:21
 99

США пока не предоставили Украине доступа к спутниковой системе связи Startshield над территорией России