UPDATE Postgres menggunakan fungsi jendela peringkat

Karena Anda tidak memiliki kunci unik, gunakan ctid :

update medias m
    set sort_order = new_sort_order
    from (
        select 
            ctid,
            owner_user_id, 
            sort_order, 
            row_number() over w as new_sort_order 
        from medias 
        where visible
        window w as (partition by owner_user_id order by sort_order asc, created_at asc)
    ) s
    where m.ctid = s.ctid;

Catatan, row_number() mungkin lebih baik dari rank() sebagai yang pertama tidak pernah memberikan duplikat.