Nel XVI secolo, con l'unificazione del Regno di Napoli sotto la corona spagnola (1503) e la fine delle lotte dinastiche si ebbe la progressiva e rapida decadenza della funzione strategico-militare delle fortificazioni e del castello di Agropoli, nel quale tra l'altro si spense nel 1508 il principe Roberto ll Sanseverino. Vi furono però altri fattori che determinarono il calo dell'importanza economica del borgo: innanzitutto il definitivo tramonto della famiglia dei prìncipi Sanseverino nel 1552 ed il conseguente frazionamento dei loro feudi, in particolare quelli di Cilento e di Agropoli, venduti a partire dal 1553 ad una pletora di feudatari minori; il distacco dal territorio di Agropoli di Ogliastro ed Eredita, andati nel 1566 in potere di baroni diversi, fatti che, gravando negativamente sull'economia agricola dell'entroterra cilentano, inibirono il traffico costiero che si incardinava su Agropoli. Parallelamente lo spopolarsi della pianura pestana ed il suo degrado, dovuti al diffondersi della malaria, comparsa qui sul finire del Xlll secolo(22), fu un fenomeno che ebbe anche maggiore incidenza sull'economia e sullo sviluppo urbano di Agropoli, dove tra l'altro già alla fine del Quattrocento si segnala la presenza dello stesso morbo(23), che agì poi, fino a tutto l'Ottocento, come remora di fondo ad ogni consistente crescita dell'abitato. Il segno della stasi urbana è dati dai rilevamenti statistici del tempo, i cui dati, anche interpretati nel modo più favorevole(24), segnalano, rispetto ai circa mille abitanti presenti verso la metà del Quattrocento, un numero ridotto a 3-400 anime agli inizi del Cinquecento (1508-9), con il solo incremento di circa 200 individui verso la fine di quel secolo. Tra il XVI ed il XVII secolo i frequenti passaggi feudali non giovarono certamente alla già prostrata economia del borgo; i suoi abitanti vivevano ormai più dei proventi della terra che dei frutti del mare, sul quale raramente si avventuravano per traffici e commerci, ostacolati dall'infuriare della pirateria turca, costantemente alla ricerca sulle nostre coste di bottino e di schiavi. Le fortificazioni di Agropoli svolsero allora il solo ruolo di baluardo contro le incursioni piratesche, ma nonostante le mura fossero oggetto di continue cure e riparazioni, a cui erano chiamati a concorrere anche i paesi vicini(25), nonostante che nell'abitato le famiglie magnatizie potenziassero le difese delle loro dimore, affiancandovi anche torri, quale la "Mainenti", elevata nel XVI sec., non fu possibile evitare che la cittadella fosse saccheggiata, se non nel 1515, come vuole una incerta notizia(26), certamente nel 1630, secondo i dati di alcune cronache coeve che ne riferiscono con esattezza i particolari, informandoci che solo parte della popolazione riuscì allora ad evitare il peggio chiudendosi a difesa nel Castello(27). Il timore panico suscitato da questi assalti che non risparmiavano vecchi e bambini, beni mobili ed immobili, mantenne ancora per tutto il secolo XVII l'espansione urbana contenuta entro la cinta fortificata. Questa nella seconda metà del secolo fu potenziata sul lato sud con un avancorpo proteso su via F. Patella (v. fig. 3), a maggiore protezione della porta urbica, allora ristrutturata nella forma che grosso modo oggi si conserva. Le variazioni che si registrarono in questo periodo all'interno delle mura, devono ascriversi più che ad ampliamenti in nuovi quartieri ad una levitazione urbana caratterizzata dall'inserimento negli spazi vuoti di nuovi fabbricati o recinzioni, oppure dalla parziale occupazione delle sedi stradali con l'ampliamento degli edifici preesistenti, ristrutturati in modo che spigoli e rientranze, esaltando le possibilità di difesa, creassero ostacoli ad eventuali assalitori penetrati oltre le mura. Ma se le incursioni turche, e per i danni provocati alle cose e per la sottrazione di persone, contribuirono a mantenere basso il numero degli abitanti, a metà del XVII secolo la popolazione fu più che dimezzata dalla peste(28), che, sopraggiungendo qui nel 1656, ne ridusse il numero a sole 2-300 presenze, ma già con tendenza a raddoppiare verso la fine di quello stesso secolo.
Uno stato d'anime del 1686 ci informa che nella cittadina vivevano 441 individui, distribuiti in quattro rioni: Pietra del Pesce, Pietra del Sale, Piedi Agropoli e Casale Nuovo(29), in una situazione urbanistica praticamente immutata dai princìpi del XIV secolo. Con l'allentarsi della pressione della pirateria turca sulle nostre coste coincise l'aumento demografico della prima metà del XVIII secolo, che portò nel 1754 la popolazione di Agropoli a 684 individui, riflettendosi nell'ampliamento nord del quartiere di Caposanti e nella creazione del quartiere AMENDOLA, sviluppatosi tra Caposanti, Piedi Agropoli e Casale Nuovo (v. fig. 3), rioni che nel 1754 vennero tutti menzionati nel Catasto onciario(30). Mentre nel Castello, passato nel 1660 ai Sanfelice duchi di Laureana, ultimi possessori feudali di Agropoli, si effettuarono altri ampliamenti del Palazzo baronale sia a Nord che a Sud (v. fig. cit.), e, in particolare, furono realizzati i due livelli del portico ad arcate sul lato sud-est, verso la fine del secolo l'abitato, nonostante una lieve flessione demografica, si estese anche nella zona Fortino, che ebbe questo nome dall'esistenza sull'estrema punta occidentale del promontorio di un piazzale sistemato per l'artiglieria contro gli attaccni corsari(31).