> Po podłączeniu pamięci przenośnej czy dysku zewnętrznego (oba usb 3.0 )

Jak rozumiem przy urządzeniach 2.0 problem nie występuje?

> i przy transferze danych oba urządzenia są rozłączane i przestają być
> dostępne w systemie.

Zarówno przy odczycie jak i zapisie? A co z klawiaturą czy myszą na USB?

> Kontroler ma podpięte zasilanie. Problemy są na win 7 jak i na nowo
> zainstalowanym win 8 (oba 64-bit).

A w biosie (płyta ma pewnie wbudowany w bios flasher, którym testowo możesz
odczytywać różne wersje biosu z pena USB)?

> Sterowniki najnowsze. Komputer to dell vostro 260. Gdzie może leżeć
> problem?

Sprawdź jak się ten kontroler zachowuje na innym komputerze.