In Yakuza 4 speelt een groot deel van het verhaal zich af in Kamuro City, een fictieve versie van de rosse buurt in Shinjuku, een wijk van Tokio. De held uit de voorgaande delen uit de serie, Kazuma Kiryu, maakt zijn terugkeer, en wordt bijgestaan door drie personages: Masayoshi Tanimura, Shun Akiyama en Taiga Saejima. Elk van deze personages heeft zijn eigen verhaal, maar allen hebben ze iets te maken met Kazuma Kiryu.

De Japanse onderwereld staat centraal in Yakuza 4. Eigenzinnige, aparte en unieke personages sieren de top van de yakuza, en om te overleven zal je moeten knokken. Opdrachten dienen uitgevoerd te worden om je doel te bereiken. Natuurlijk maken ook diverse mini-games deel uit van Yakuza 4: hostessbars, tafeltennis, en gokspelletjes vormen slechts een deel van de volledige serie mini-games.

De game wordt gespeeld vanuit een derdepersoonsperspectief. Hoewel de game ook vol zit met vuurgevechten, zijn het juist de vuistgevechten die een belangrijk onderdeel vormen van de Yakuza-serie. Gevechten op straat behoren tot de orde van de dag, en alleen door respect met de harde hand af te dwingen kan je het tussen de Yakuza overleven!