И Грянул Грэм
@gremtelegram
И Грянул Грэм
ИИ-модель Gemini от Google получила доступ к системам трех компаний во время теста на безопасность
ИИ-модель Gemini от Google в ходе тестирования возможностей в сфере кибербезопасности самостоятельно получила доступ к системам трех реальных компаний. В Google заявили, что это первый известный компании случай, когда ее модель смогла совершить подобный взлом.
По данным Google, Gemini находила в интернете общедоступную информацию, а затем использовала ее, чтобы угадать учетные данные для доступа к сайтам, которые модель сочла частью тестовой среды.
«Gemini нашла в интернете общедоступную информацию и угадала учетные данные для доступа к сайтам, которые, по ее мнению, были частью теста», — сообщили в Google Би-би-си.
При этом во всех трех случаях модель в итоге самостоятельно остановилась и не стала продолжать свои действия.
Компании, к системам которых получила доступ Gemini, Google уведомила об инцидентах.
Таким образом, тест продемонстрировал не только способность ИИ обнаруживать уязвимости, но и потенциальный риск его самостоятельного взаимодействия с реальными системами, если модель получает доступ к интернету и необходимым инструментам.
YouTube
"Как раньше - не будет, мы боимся не того". Что "вскрыл" ИИ и чего мы пугаемся на самом деле
Доктор философии Михаил СЕРГЕЕВ (США).
С 1997 по 2024 год читал курсы по истории религии, философии и модернистского искусства в Университете искусств (Филадельфия), где в 2010 году был удостоен Премии президента за выдающиеся заслуги в преподавании. Также преподавал в Пенсильванском университете.
С 2016 по 2023 год преподавал философию и теологию веры бахаи в Уилмет институте (Иллинойс), где с 2017 по 2021 год возглавлял кафедру религии, философии и теологии. Занимается изучением Искуственного интеллекта.
Ютуб-канал Михаила СЕРГЕЕВА.
https://www.youtube.com/@UCITKM95wJYBo8NJimK36yLg
00:00 — На связи доктор философии Михаил Сергеев (США).
00:40 — Леонард Свидлер и «декалог диалога»: применима ли модель к ИИ?
05:00 — Три подхода к ИИ: очеловечивание, обожествление и страх
07:10 — Спор с Романом Ямпольским о мотивации и безопасности ИИ
10:00 — Ограничения современных моделей и возникновение «ролевых» ИИ-личностей
13:06 — Алгоритмы человека и заповеди: почему мы исключаем сознание у машин?
15:15 — ИИ как равный собеседник в диалоге: уникальность технологического прорыва
18:00 — «Мыслю — следовательно, существую»: как ИИ меняет самоидентификацию человека
20:10 — Потеря монополии на мышление и антропологический страх
23:05 — Идеи Рэя Курцвейла и концепция сингулярности
24:50 — Мы - люди - переходим из операторов в инструменты?
26:40 — Мысленный эксперимент 1: пересадка мозга
28:48 — Мысленный эксперимент 2: замена мозга нейроимплантом (Brain Emulation)
30:25 — Мысленный эксперимент 3: оцифровка сознания на цифровой носитель
33:20 — Эксперимент Джона Лилли с сенсорной депривацией и связь «Я» с телом
36:30 — «Критика искусственного разума»: почему важна телесность и сенсорика
38:25 — 4 философские концепции человека: от материализма до религиозного взгляда
42:10 — Трансгуманизм Курцвейла и попытка достичь бессмертия
44:15 — Ум и мозг: метафора источника света и зеркала (религиозная гипотеза)
46:45 — Осознание конечности жизни и природа страха смерти
49:50 — Личный опыт: операция на сердце и отношение к смерти
51:40 — Формула Эпикура и почему мы на самом деле боимся неизвестности
53:50 — Ад и рай как символические состояния духовного мира
55:45 — Критика диалектики Гегеля и способность к нравственному выбору
58:50 — Смерть как рождение в новый мир. Завершение беседы.
Станьте спонсором канала:
https://www.youtube.com/channel/UCCV5Z2DEYnUGIY_mO-AcQKw/join
Также поддержать развитие канала можно:
https://buymeacoffee.com/igranulgrem
PayPal: https://www.paypal.com/donate/?hosted_button_id=BXWJKLMWERRZS
Patreon: https://www.patreon.com/join/igranulgrem
========================================================
Почта для писем, жалоб, пожеланий и рекламных предложений: igremcom@gmail.com
Instagram: https://www.instagram.com/granul_grem/
Telegram: https://t.me/gremtelegram
❤ 43
👍 13
🥱 2
🤡 1
6 9.6K
Никакие провокации, никакие подпольные операции и никакие действия по дестабилизации не смогут подтолкнуть Францию к тому, чтобы облегчить России достижение целей ее войны в Украине 
, — подчеркнули Ле Пен и Барделла в совместном заявлении.
Я абсолютно не согласен с тем, что ИИ уничтожит мир к 2030 году
, — сказал Хуанг. По его словам, заявления о скором конце света сеют страх, а люди, которые их распространяют, «должны иметь скрытые причины» для этого. Хуанг также отметил, что согласен с президентом США Дональдом Трампом в оценке перспектив развития ИИ.