Свободный софт и искусственный интеллект

[vitus_wagner]

https://www.fsf.org/blogs/licensing/fsf-funded-call-for-white-papers-on-philosophical-and-legal-questions-around-copilot

FSF объявила сбор статей на тему гитхабовского Copilot и его соотношения со свободными лицензиями.

Вообще действительно интересная тема:

• Если нейросеть обучается на текстах защищенных копирайтом, является ли это fair use или нет?
• Вероятно ли что в результате подсказок copilot-а пользователем будет написан код, который можно будет счесть derived work того кода, на котором copilot обучался.
• Если может - то как это обнаружить.
• Является ли модель машинного обучения, созданная в результате тренировки AI на некотором массиве текстов, компилированной фораой этого текста, или она что-то другое, вроде написанного человеком реферата?
• Может ли AI/ML model быть защищена копирайтом.
• Надо ли организациям защищающим этику в hightech, таким как FSF и EFF предлагать какие-то изменения в копирайтном законодательстве в связи с появлением этой проблемы.

Лично моё мнение - робот имеет такое же право читать тексты и учиться на них, как и человек. Оригинальный манифест GNU был именно про право учиться на чужом коде. То что исходный код самого робота закрыт и нетиражируем, это, конечно, плохо, но это скорее значит что надо другого робота написать, который бы распространялся по свободной лицензии.

А так в общем, робот, который подсказывает как надо решать задачи - это хорошо. Роботы, который подсказывают "как не надо" - находят в коде плохие, чреватые уязвимостями или неопределенным поведением, уже в компиляторы встроены. Правда, они к сожалению плохо находят фрагменты кода, неудобные для восприятияя человеком.

Comments

[slobin]

// А так в общем, робот, который подсказывает как надо решать задачи - это хорошо.

Ах если бы! По-моему, этот робот (совершенно независимо от этических вопросов заимствования кода) окончательно выдаёт нужду за добродетель. У нас как-то уже смирились с тем, что 90% времени программиста -- это не программирование в исходном смысле, не реализация идей, а рефакторинг и попытка что-то сделать с чужими (ну ладно, своими предыдущими) косяками. Но до сих пор всё это стояло на фундаменте 10% честного программирования в исходном смысле (я старательно избегаю слова "творчество"), а этот робот пытается заставить тебя с самого начала исправлять плохой код за искусственным идиотом. По крайней мере, судя по тем немногочисленным примерам, что я видел.

... А мой кибер бросит писать стихи и начнёт слушать музыку ...

[inkelyad]

У нас как-то уже смирились с тем, что 90% времени программиста -- это не программирование в исходном смысле, не реализация идей, а рефакторинг и попытка что-то сделать с чужими (ну ладно, своими предыдущими) косяками.

Что значит как-то смирились? Так и должно быть. Это называется (в широком смысле) этап эксплуатации. Машину/самолет/какой-то физический массово производимый предмет проектируют и делают тысячи и десятки тысяч человек. А пользуются ими, чинят, приспосабливают под свои требования - миллионы. Вот и с софтом так же.

Это вот преобладающее почему-то в индустрии "будешь/хочу что-то новое создавать" - это какое-то отклонение.

[slobin]

Представил себе полностью автоматизированный роботический завод, из ворот которого выходят сломанные автомобили. Причём правдоподобно сломанные -- с хорошей имитацией следов пробега и всего такого (я не водитель, я не очень разбираюсь). А дальше их прямо оттуда, продолжением конвейера, развозят по человеческим ремонтным мастерским, где и доводят до пригодного к эксплуатации вида. С идеей, что сломанный автомобиль -- это всё-таки лучше, чем никакого автомобиля, и отремонтировать всё равно дешевле, чем сделать с нуля. Всё равно сюр какой-то, надо фантастический рассказ написать.

P.S. Задумался: вот у нас типа мир одноразовых вещей, за "право на ремонт" люди борются. А исходники мы постоянно ремонтируем. Нет ли здесь какого-то противоречия?

P.P.S. Это я скорее хозяину журнала пишу, чем Вам. Извините, если мимо кассы!

... That which does not kill us makes us stranger ...

[inkelyad]

Если 'право на ремонт' победить - то скоро будет как раз то же самое, что с софтом.

Железку можно будет разобрать/заменить детали/переделать и починить как тебе нравится. И даже запчасти и инструмент для этого будут. Вот только сначала придется понять, как железка работает и что там внутри этого черного ящика сломалось и сломалось ли. Потому что написать учебник/документацию по всему вот этому - этого никто не обещал и даже мало кто умеет.

[shadowfoto]

так Жигули именно так и выходили, или АЗЛК...

[vlad_suh]

Так машины не с конвеера завода сходят, а из мастерской на свалке, где их клепают из подвернувшегося под руку хлама.

[salas]

Кажется, применять машинный перевод с английского на русский как заготовку для перевода человеческого — вполне распространённая нынче техника, может экономить время переводчика при том же качестве. Философских отличий у профессии переводчика с английского на C++, кажется, нет, но задачи разные, так что одинаково не удивлюсь, если результат через условные 10 лет будет тот же или другой.

[vlad_suh]

Только за машинным переводчиком нужно очень аккуратно вычитывать. С одной стороны машина "помнит" все переводы и устойчивые выражения. С другой, допускает совершенно невероятные ошибки в склонениях, временах и отрицаниях.
Превратить отрицание в отверждение - любимый баг яндекса например. Причём по тексту перевода вообще не понятно, что что-то пошло не так.

[legolegs]

>применять машинный перевод с английского на русский как заготовку для перевода человеческого

Я так делал и это адище. Это как стирать белую штору в борще, а потом вручную полоскать в воде - вообще в теории можно сделать так, чтобы борща стало не видно, но очень трудоёмко. Электроперевод сегодня недалеко ушёл от анекдотов про промт из нулевых. Синтаксис стал корректный, семантика и стиль - нет.