Después de tres años en Automatic Dlamini, PJ Harvey fundo The PJ Harvey Trio, y edito «Dry» en Too Pure, una indie británica. El impacto del disco le permitió fichar por Island que apuesta por una producción estelar, la de Steve Albini, las manos de las que había salido el grunge moverían los botones en «Rid of Me». Una vez disuelto el trio empieza la carrera musical de la reina de los 90. A partir del 93 viaja en solitario colaborando con músicos variados y sobre todo con John Parish, definido por ella como su compañero del alma musical, y que también formó parte de Automatic Dlamini. Vendrán experimentos con Tricky, duetos con Nick Cave y colaboraciones en los discos en solitario de los otros miembros del trío.
En octubre del 2000, esta canción mete a Polly Jean de cabeza en el mainstream. Otra vez con Rob Ellis (batería) y Mick Harvey (teclados,bajo) en el formato de trío y produciendo ella misma, «Stories From The City, Stories From The Sea» fue escrita en un período en el que la cantante vivió en Nueva York. Para el Rolling Stone de la época lo sorprendente era lo enamorada y feliz que se mostraba PJ, algo que ella afirmaba en las entrevistas y en unos estribillos pegadizos, y lo lejos que estaba de las oscuras y a veces ruidistas temas anteriores, «I paint pictures to remember/ You’re too beautiful to put into words/ Like a gypsy, you dance in circles/ All around me and all over the world/ And I feel like, some bird of paradise/ My bad fortune slippin’ away/ And I feel, the innocence of a child/ Everybody’s got something good to say«. El homenaje a Patti Smith es directo, esta canción podría estar en cualquier disco de la autora de «Horses».