Задумался.
Вот предлагаю я нейросети нарисовать, допустим, город. Рисует. Как правило, довольно похоже.

Санкт-Петербург


Рим


Монреаль



Прага



Карловы Вары


Иногда рисует узнаваемые объекты, иногда - рядовую застройку.

Вот такой аркады в Питере нет. Но выглядит очень по-питерски. А над ней что? Облака?


Но это известные города. Неудивительно, что нейросеть их знает.

Норильск

Ведь знает, что это город и что город на севере.

Могла посмотреть в Интернете? Но тогда бы все города рисовала похоже и гораздо более похоже.

Тирасполь

Да где в Тирасполе такое?


А вот возьмём городишки, которые вряд ли нейросеть может знать.
Кирьят-Экрон, в котором я живу.

Мало похоже. Высокие холмы, высокие дома. Если бы просто смотрела Интернете, нарисовала бы так:


Вот тоже вид сверху. Разницу видите?
Однако ясно, что это - южный город. Кипарисы и никакаих берёз.

Жеребково-городишко в Одесской области. Вряд ли НС знает о нём. Но нарисовала дом, а не человека и не зверя.
Сосница Черниговкой области. Не думаю, что нс в процессе обучения получала какую-то информацию об этом городишке. И нарисовано совсем непохоже. Это, скорее, похоже на Германию.

Но, опять таки, непонятно. Если бы она набрала "Сосница" в Интернете, она бы не нарисовала такой дом. А если нет, то как поняла, что это город, а не человек, зверь или, скажем, блюдо из сосновых иголок?

Может быть, НС ориентируется на окончание? Стал задавать несуществующие города.
Мёпоград


Мухосранск


Среднежопинск


.
Как видим, рисует города, хотя таких не существует.