С помощью нейросетей программист-аноним научился создавать фальшивые порноролики с участием знаменитостей — при этом они выглядят так правдоподобно, что не каждый сможет заметить подмену лица. Эксперт в области искусственного интеллекта выступил с призывом урегулировать эту проблемы, так как подобные видео могут быть использованы для шантажа или харрасмента
Функционал нейросетей становятся все более совершенным, открывая для широкой публики массу возможностей для их применения. На американском форуме Reddit появился порноролик, в котором главную роль играет звезда фильма «Чудо-женщина» актриса Галь Гадот.
Видео выглядит настолько натурально, что если не искать подвоха, то можно поверить, что это действительно Гадот. Вот только ролик был создан искусственным путем с помощью алгоритма машинного обучения и открытого исходного кода, которыми может воспользоваться любой программист с базовыми знаниями в этой области.
Знаменитости в зоне риска
Если присмотреться повнимательнее, то можно заметить несовершенства — лицо Галь Гадот, «приклеенное» к телу порноактрисы, не всегда успевает менять мимику, но в целом выглядит вполне реалистично. Но больше всего в этой истории пугает то, что видео было создано не именитой голливудской студией спецэффектов, а обычным пользователем форума, скрывающимся под никнеймом Deepfakes.
На текущий момент Deepfakes опубликовал на Reddit порноролики «с участием» актрис Скарлетт Йоханссон, Мэйси Уильямс и Обри Плазой, а также певицей Тейлор Свифт, созданные с применением технологии машинного обучения и замены лиц. Отметим, что пока никто из пострадавших девушек обращался в суд.
Порно с участием знаменитостей не является каким-то инновационным жанром и имеет свою преданную аудиторию, но, судя по комментариям на Reddit, видео, созданное Deepfakes, отличает особая плавность движений лица и удивительная правдоподобность.
Motherboard связалась с автором этих роликов, который отказался раскрыть свою личность, но поделился некоторыми секретами создания.
Deepfakes сообщил, что воспользовался библиотеками TensorFlow и Keras, находящимися в открытом доступе, а достоверный эффект анимации лиц был достигнут благодаря фотографиям в поиске Google, стоковым снимкам и видео YouTube. Алгоритм собирал весь графический контент воедино и компилировал лицо той или иной знаменитости.
Чем больше фотографий и скриншотов находится в открытом доступе, тем лучше качество конечного эффекта.
Deepfakes добавил, что не является профи — он обычный программист, который интересуется машинным обучением.
«Просто я нашел умный способ делать замену лиц. Имея в арсенале сотню изображений лица человека, я могу легко сгенерировать миллион «деформированных» картинок, чтобы натренировать нейросеть. А если я дам сети снимок лица кого-нибудь другого, она посчитает, что это очередное деформированное изображение и постарается сделать из него копию лица исходного человека», — пояснил создатель роликов.
В комментариях на форуме он также рассказал, что использует алгоритм, похожий на те, что используют сотрудники компании NVIDIA, занимающейся разработкой процессоров и видеокарт.
Разница незаметна
На вопрос, думал ли Deepfakes о возможных этических последствиях применения такого алгоритма, автор порнороликов ответил уклончиво.
«Каждую технологию можно использовать во вред, и с этим ничего нельзя поделать. Главное в этом алгоритме — простота его использования. Не вижу ничего плохого в том, что с его помощью еще больше людей заинтересуются машинным обучением», — заявил программист.
В его словах есть рациональное зерно, но ведь Deepfakes как раз и стал тем, кто эксплуатирует технологии с заведомо плохими намерениями — лицо Галь Гадот было добавлено в видео без ее согласия, а на ее месте может оказаться любой человек, кто хоть раз «заливал» свои фотографии в интернет.
Согласно данным Google, в период с 2015 по 2016 год в сервис Google Photos было загружено 24 млрд селфи.
Эксперт в области ИИ и автор книги «Искусственный интеллект в компьютерных играх» Алекс Шампандар рассказал, что с помощью продвинутой видеокарты эффекта Deepfakes можно добиться всего за несколько часов.
С этической точки зрения последствия этой технологии могут быть катастрофичными, считает Шампандар. По его мнению, через несколько месяцев эта технология может настолько усовершенствоваться, что человеческий глаз не заметит разницы между оригиналом и подделкой.
«Конечно, замена лица — это не новость, но раньше для нее требовались большое количество ресурсов и профессионалы в области спецэффектов, а теперь на это способен любой программист-одиночка с мощным компьютером», — отметил эксперт.
Кроме того, добавление знаменитостей в порно ради большого числа подписчиков — это лишь одна из областей применения такой технологии. Такие сфабрикованные ролики, в которых человек предстает в невыгодном свете, можно использовать для шантажа или харрасмента. Кроме того, злоумышленники будут способны искусственным способом «добавить» человека на видео с камер наблюдения и т.д.
Можно заказать ему ролик где Навэльный ебет собаку и показать по первому каналу чтоб все охуели. Денег у патриотов дохуя. А качественный контент дело такое. При этом можно всё обставить таким образом, мол нам тут прислали, как соловьев иногда делает. И показать. Мол человек похожий на сисяна вон что творит, а уж он это или нет сами выводы делайте.
>>25929452 (OP) Живые актёры не нужны. Каждая знаменитость сначала будет оцифрована, а совсем потом нужных людей просто будут генерить на компе. Всё это говно было предсказано футурологами 20 века.
Ну что, в цифровом мире ничто больше не доказательство. Голос легко подделать, видео - тоже. Добро пожаловать в третье тысячелетие, мир переходит в новую формацию.
>>25929452 (OP) Порно как всегда на острие технологий. Без порнухи нам сейчас до сих пор хватало бы 640кб памяти. Я давно говорил что надо пилить "раздевающую" нейросеть. На соответствующих досках этого форума тусят задроты, фотошопящие своих ЕОТ и мамок, "раздевают" фото. Автоматизировать такую хрень и сделать приложение для смартфона, "раздевающее" тянок, попавших в объектив видеокамеры в реальном времени. Это вам не покемонов ловить.
>>25929452 (OP) >С этической точки зрения последствия этой технологии могут быть катастрофичными
Это просто вызовет девальвацию доверия к видео. Нечто подобное уже произошло с фото, т.к. теперь каждый школьник умеет фотошопить. Благодаря этой девальвации даже про реальное фото, украденное или сделанное папарацци теперь можно сказать, что ничего не знаю, врети, это фотошоп.
Скоро, видимо, так будет и с видео. Со временем порнуху уже даже не нужно будет снимать. Будут делать путем смешения сэмплов и синтеза на основе отснятого ранее. Например, возьмут "В джазе только девушки" и скрестят с любительским фильмом про копрофилию... Современная музыка представляет из себя как раз нечто подобное, почему бы и порнуху не осовременить?
>>25929452 (OP) >подобные видео могут быть использованы для шантажа или харрасмента Напротив, подобные видео умаляют действенность компромата (а на компромате вся политота держится. сначала они хуй давали на фото для архива пососать, потом на видео, потом те на кого подобное палево было продвинули лигалайз гейства, потом их начали заставлять детей ебать (пиццагейт все дела) потом они начали чуркобесов импортировать чтоб и это палевом не считалось. Сейчас вообще вся эта крысиная пирамида по пизде пойдёт. Раньше я думал что они боятся ии потому что он всё прочтёт и всё поймёт и всё всем расскажет а тут вон оно чё, чего никто не ожидал даже
>>25930708 > Благодаря этой девальвации даже про реальное фото, украденное или сделанное папарацци теперь можно сказать, что ничего не знаю, врети, это фотошоп. Так это ж заебись, только выиграли. 1. Любой компромат можно сходу объявить нейроночным фейком. 2. Можно выбрасывать резонансные фейки на себя самого, известность - величина всегда положительная, без разницы чем прославился, научным открытием или еблей с собаками. Любой знаменитости пиар нахаляву. 3. Много годного фап контента. Можно будет передернуть на то, о чем сейчас остаётся только мечтать.
>>25929452 (OP) >Кроме того, злоумышленники будут способны искусственным способом «добавить» человека на видео с камер наблюдения и т.д. В россиюшке это оценят.
Аноним ID: Константин Любославович13/12/17 Срд 12:47:44#60№25932533
Путин поручил ограничить рост тарифов на электроэнергию
Функционал нейросетей становятся все более совершенным, открывая для широкой публики массу возможностей для их применения. На американском форуме Reddit появился порноролик, в котором главную роль играет звезда фильма «Чудо-женщина» актриса Галь Гадот.
Видео выглядит настолько натурально, что если не искать подвоха, то можно поверить, что это действительно Гадот. Вот только ролик был создан искусственным путем с помощью алгоритма машинного обучения и открытого исходного кода, которыми может воспользоваться любой программист с базовыми знаниями в этой области.
Знаменитости в зоне риска
Если присмотреться повнимательнее, то можно заметить несовершенства — лицо Галь Гадот, «приклеенное» к телу порноактрисы, не всегда успевает менять мимику, но в целом выглядит вполне реалистично. Но больше всего в этой истории пугает то, что видео было создано не именитой голливудской студией спецэффектов, а обычным пользователем форума, скрывающимся под никнеймом Deepfakes.
На текущий момент Deepfakes опубликовал на Reddit порноролики «с участием» актрис Скарлетт Йоханссон, Мэйси Уильямс и Обри Плазой, а также певицей Тейлор Свифт, созданные с применением технологии машинного обучения и замены лиц. Отметим, что пока никто из пострадавших девушек обращался в суд.
Порно с участием знаменитостей не является каким-то инновационным жанром и имеет свою преданную аудиторию, но, судя по комментариям на Reddit, видео, созданное Deepfakes, отличает особая плавность движений лица и удивительная правдоподобность.
Motherboard связалась с автором этих роликов, который отказался раскрыть свою личность, но поделился некоторыми секретами создания.
Deepfakes сообщил, что воспользовался библиотеками TensorFlow и Keras, находящимися в открытом доступе, а достоверный эффект анимации лиц был достигнут благодаря фотографиям в поиске Google, стоковым снимкам и видео YouTube. Алгоритм собирал весь графический контент воедино и компилировал лицо той или иной знаменитости.
Чем больше фотографий и скриншотов находится в открытом доступе, тем лучше качество конечного эффекта.
Deepfakes добавил, что не является профи — он обычный программист, который интересуется машинным обучением.
«Просто я нашел умный способ делать замену лиц. Имея в арсенале сотню изображений лица человека, я могу легко сгенерировать миллион «деформированных» картинок, чтобы натренировать нейросеть. А если я дам сети снимок лица кого-нибудь другого, она посчитает, что это очередное деформированное изображение и постарается сделать из него копию лица исходного человека», — пояснил создатель роликов.
В комментариях на форуме он также рассказал, что использует алгоритм, похожий на те, что используют сотрудники компании NVIDIA, занимающейся разработкой процессоров и видеокарт.
Разница незаметна
На вопрос, думал ли Deepfakes о возможных этических последствиях применения такого алгоритма, автор порнороликов ответил уклончиво.
«Каждую технологию можно использовать во вред, и с этим ничего нельзя поделать. Главное в этом алгоритме — простота его использования. Не вижу ничего плохого в том, что с его помощью еще больше людей заинтересуются машинным обучением», — заявил программист.
В его словах есть рациональное зерно, но ведь Deepfakes как раз и стал тем, кто эксплуатирует технологии с заведомо плохими намерениями — лицо Галь Гадот было добавлено в видео без ее согласия, а на ее месте может оказаться любой человек, кто хоть раз «заливал» свои фотографии в интернет.
Согласно данным Google, в период с 2015 по 2016 год в сервис Google Photos было загружено 24 млрд селфи.
Эксперт в области ИИ и автор книги «Искусственный интеллект в компьютерных играх» Алекс Шампандар рассказал, что с помощью продвинутой видеокарты эффекта Deepfakes можно добиться всего за несколько часов.
С этической точки зрения последствия этой технологии могут быть катастрофичными, считает Шампандар. По его мнению, через несколько месяцев эта технология может настолько усовершенствоваться, что человеческий глаз не заметит разницы между оригиналом и подделкой.
«Конечно, замена лица — это не новость, но раньше для нее требовались большое количество ресурсов и профессионалы в области спецэффектов, а теперь на это способен любой программист-одиночка с мощным компьютером», — отметил эксперт.
Кроме того, добавление знаменитостей в порно ради большого числа подписчиков — это лишь одна из областей применения такой технологии. Такие сфабрикованные ролики, в которых человек предстает в невыгодном свете, можно использовать для шантажа или харрасмента. Кроме того, злоумышленники будут способны искусственным способом «добавить» человека на видео с камер наблюдения и т.д.